Es hora de probar si los sistemas de etiquetado de IA funcionan

Es hora de probar si los sistemas de etiquetado de IA funcionan

SynthID y C2PA han tenido la oportunidad de demostrar que pueden hacer una diferencia real contra los deepfakes.

de Jess Weatherbed 20 de mayo de 2026, 2:12 PM UTC

Enlace Compartir Regalo

Si los sistemas de etiquetado de IA robustos estuvieran en uso cuando estas imágenes de Papa Francisco salieron a la luz, podría haber sido más fácil para las personas saber que eran falsas.

Imagen: via Reddit Parte de Google I/O 2026: Todas las noticias y anuncios ver todas las actualizaciones

Jess Weatherbed es un escritor de noticias enfocado en las industrias creativas, el cálculo y la cultura de Internet. Jess comenzó su carrera en TechRadar, cubriendo noticias y reseñas de hardware.

Estamos a punto de descubrir si los sistemas diseñados para hacer que los deepfakes y el contenido generado por IA sean fáciles de detectar son realmente efectivos. SynthID y C2PA Content Credentials, dos tecnologías distintas para etiquetar invisiblemente archivos de imagen, video y audio con información sobre sus orígenes, están recibiendo su expansión más grande hasta la fecha, y con ella, la oportunidad de cambiar el curso contra la falsificación AI no etiquetada que engaña a las personas en línea.

Ayer durante su conferencia I/O, Google anunció que la capacidad de verificar si las imágenes contienen marcadores SynthID — el sistema de marcado invisible aplicado al contenido generado por los modelos de inteligencia artificial de Google — está llegando a Chrome y Search. Esto es significativo porque Chrome domina absolutamente el mercado global de concesión de navegadores y motores de búsqueda, por lo que las herramientas de verificación AI están siendo empujadas frente a más ojos. También simplifica el proceso de verificación; si deseas verificar actualmente una imagen para marcadores SynthID, debes cargarla en la aplicación Gemini.

No solo, sino que las interfaces de verificación de Google ahora también verifican si estos archivos contienen información C2PA — metadatos de origen que se incorporan en el contenido en el momento de la creación para decirnos cómo se hizo o se manipuló y si se utilizaron herramientas AI durante el proceso. Esta adopción C2PA permite a los usuarios verificar imágenes sospechosas desde una sola interfaz en lugar de saltar entre la aplicación Gemini y los portales de verificación C2PA dedicados ya que los archivos pueden tener solo un tipo de etiqueta o ninguna.

Ahora Google proporciona el mejor de ambos mundos.

Imagen de The Verge

Es este el tipo de esfuerzo colaborativo que esperábamos. Mientras que ambos sistemas funcionan de manera diferente, tanto Google como la Iniciativa de Autenticidad de Contenido (que existe para promover el estándar C2PA) han hecho afirmaciones similares sobre lo que se necesita para que funcionen: que todos estén a bordo. Esto significa que más modelos AI deben incorporar estos datos, y las plataformas en línea donde la falsificación AI es más a menudo compartida deben mostrar claramente esta información. Para el último, tener herramientas de verificación integradas en el navegador web podría funcionar como un workaround para los sitios web que no controlan o presentan metadatos AI a los usuarios.

OpenAI también está participando en esta expansión, anunciando ayer que ahora incorporará SynthID en las imágenes generadas por ChatGPT, Codex y la API de OpenAI. La empresa ya incluye metadatos C2PA en el contenido generado, pero he encontrado que estos se eliminan a menudo cuando se publican en otras plataformas. OpenAI mismo ha querido temperar las expectativas sobre C2PA, a pesar de ser un miembro de steer de C2PA y ahora reafirmando su compromiso con el estándar. Esto es lo que OpenAI dijo en su página de ayuda C2PA, antes de ser actualizada para incluir SynthID ayer:

"Los metadatos como C2PA no son un golpe de gracia para abordar las cuestiones de origen. Pueden eliminarse fácilmente, tanto accidentalmente como intencionalmente. Por ejemplo, la mayoría de las plataformas sociales hoy eliminan los metadatos de los archivos cargados, y acciones como tomar una captura de pantalla también pueden eliminarlos. Por lo tanto, una imagen sin estos metadatos puede o no haber sido generada con ChatGPT o nuestra API."

Para algo que se considera el mejor contenido tecnológico de autenticidad, suena