Cómo saber si una imagen, audio o video fue generado con IA: avances de Google y OpenAI

Hasta no hace poco, el foco de las principales empresas de IA parecía estar exclusivamente puesto en mejorar los modelos de IA generativa y hacer más realista el contenido que producen. Ahora empieza a aparecer otra conversación: cómo pueden ayudar estas mismas compañías a construir mecanismos para identificar, rastrear y verificar contenido sintético.

En los últimos días, Google y OpenAI hicieron anuncios importantes en esa dirección. En el evento Google I/O 2026 y en una publicación técnica de OpenAI del 19 de mayo, ambas compañías anunciaron avances y acuerdos alrededor de 2 tecnologías que pueden funcionar de forma complementaria: SynthID y C2PA.

Detrás de estos nombres técnicos está la búsqueda (seamos optimistas y bien pensados) de construir “señales de confianza” en espacios donde el contenido sintético ocupa cada vez más espacio.

Qué es SynthID

SynthID es una tecnología desarrollada originalmente por Google DeepMind para insertar marcas de agua invisibles en contenido generado por inteligencia artificial.

A diferencia de una marca de agua tradicional, SynthID funciona alterando patrones imperceptibles dentro del contenido. Esas señales no están pensadas para que las vea una persona, sino para que puedan ser detectadas por herramientas automáticas de verificación.

La idea es que una imagen, un audio o un video generado con IA lleve incorporada una especie de “huella digital” difícil de remover incluso si el contenido se comprime, se recorta o se vuelve a subir a otra plataforma. Ese punto es importante porque muchos sistemas anteriores dependían exclusivamente de metadatos (información adjunta al archivo) que suele perderse fácilmente cuando el contenido circula en redes sociales o apps de mensajería.

Cómo funciona SynthID. Fuente: Google Deep Mind in YouTube.

Según Google, desde su lanzamiento en 2023, SynthID ya fue usado para marcar más de 100 mil millones de piezas de contenido generado con IA. Y millones de personas usaron el Detector de SynthID en la aplicación Gemini para verificar imágenes o videos.

Otras empresas empiezan a adoptar esta tecnología creada por Google, como NVIDIA y ElevenLabs. Entre ellas, OpenAI anunció que comenzará a incorporar SynthID en imágenes generadas desde ChatGPT, Codex y su API.

Qué son las Content Credentials y C2PA

Si SynthID funciona como una marca de agua invisible, C2PA apunta a otra capa del problema: la procedencia del contenido y el historial de modificaciones que sufre a lo largo de su vida digital.

C2PA (que significa Coalition for Content Provenance and Authenticity o, en español, Coalición para la Procedencia y Autenticidad del Contenido) es un estándar técnico impulsado por una alianza de empresas tecnológicas y medios que busca crear un sistema verificable para llevar registro sobre cómo fue creado o editado un archivo.

Sobre ese estándar se construyen las llamadas Content Credentials (credenciales de contenido), una especie de ficha o registro adjunto a imágenes, videos, audios o documentos que permite consultar información sobre su origen y modificaciones. Esa información está firmada criptográficamente para dificultar su alteración o falsificación.

En términos simples, las Content Credentials permiten adjuntar metadatos protegidos a un archivo digital para responder preguntas como:

• ¿Este contenido salió directamente de una cámara, de un celular o de qué tipo de dispositivo?
• ¿Fue editado?
• ¿Qué herramienta o software se usaron?
• ¿Intervino una IA generativa?
• ¿Qué cambios tuvo a lo largo del tiempo? 

La idea se parece bastante a una cadena de custodia digital. Y, si funciona correctamente, una plataforma podría mostrar que una imagen fue creada con determinada herramienta, editada en cierto software o capturada con un dispositivo específico.

Algunas implementaciones de las Content Credentials muestran un ícono o “pin” visual que indica que el contenido contiene información de procedencia. Al hacer clic, el usuario puede acceder al historial de creación y edición del archivo.

Un ejemplo de implementación de las Content Credentials en LinkedIn. 

C2PA está sumando apoyo explícito por parte de las grandes empresas de tecnología. En su último evento para desarrolladores, Google dio a conocer que está expandiendo el soporte para Content Credentials en Gemini, el Buscador y próximamente en el navegador Chrome. 

Fuente: Blog de Google

Por su parte, OpenAI anunció que se convirtió oficialmente en un “C2PA Conforming Generator Product”, es decir, que sus sistemas ahora generan contenido compatible con este estándar. “Al volvernos conformes con C2PA, estamos dando a las plataformas una forma confiable de leer, conservar y transmitir la información de procedencia que adjuntamos a nuestro contenido”, señaló en su comunicado la compañía liderada por Sam Altman. 

Así aplica OpenIA el concepto de procedencia del contenido en sus herramientas, combinando C2PA y SynthID. Fuente: OpenIA

Por qué son importantes los anuncios de Google y OpenIA

Son relevantes porque muestran que las principales empresas de IA están empezando a reconocer que el foco no debe estar solo puesto en mejorar la capacidad para generar contenido sintético, sino que también necesitamos mecanismos para identificarlo.

El problema concreto está a la vista de todos: imágenes falsas en contextos electorales, audios manipulados, estafas, desinformación y contenidos sintéticos circulando sin contexto.

En ese escenario, sistemas como SynthID y Content Credentials-C2PA intentan convertirse en infraestructura básica de confianza. 

Algo así como señales de tránsito para una internet donde cada vez será más difícil distinguir entre contenido humano y contenido sintético o generado automáticamente.

¿Un ejemplo concreto de para qué sirve todo esto? Además de anunciar públicamente su compromiso con la procedencia del contenido, OpenIA presentó un adelanto de su herramienta pública de verificación, que por ahora solo admite imágenes en formato PNG, JPG y WEBP pero está disponible para todos quienes quieran probarla. En Chequeado la usamos esta semana para verificar si estas imágenes virales de mujeres embarazas que supuestamente venían desde Bolivia habían sido generadas con IA o no. 

El resultado de la verificación que Chequeado realizó usando la herramienta de OpenIA.

¿SynthID y Content Credentials pueden ser la solución que necesitamos?

Por ahora, parcialmente. Ya que todavía hay muchas limitaciones.

C2PA depende de que plataformas y herramientas preserven los metadatos. Algo que no siempre ocurre. Una captura de pantalla o una recompresión pueden romper parte de esa información. OpenAI reconoce el problema en su propio anuncio: “La procedencia solo funciona si sobrevive más allá de la primera plataforma donde se crea el contenido”.

SynthID es más resistente porque la señal queda embebida dentro del contenido, pero también tiene desafíos: funciona principalmente si los grandes actores del ecosistema lo adoptan masivamente. Y buena parte del contenido problemático hoy circula desde modelos abiertos o herramientas que probablemente no implementen estos sistemas.

Además, ningún sistema de procedencia puede resolver por sí solo el problema de la confianza. Que un contenido tenga credenciales no significa automáticamente que sea verdadero. Y que no las tenga tampoco implica necesariamente que sea falso.

Aun con todas estas limitaciones, algo parece claro: estamos viendo el nacimiento de una nueva capa de infraestructura para internet. Una capa donde verificar el origen de un contenido podría volverse tan habitual como ver el candado HTTPS en un navegador.