SynthID demostró una notable resistencia frente a la compresión, los filtros, las capturas de pantalla y cientos de ediciones. Sin embargo, Google reconoce que su marca de agua no es invulnerable, mientras investigadores advierten que la procedencia verificable será más útil que intentar etiquetar todo el contenido sintético.
***

• SynthID sobrevivió 300 ciclos simulados de compresión y redimensionamiento, pero un recorte del 20% bastó para volverlo indetectable.
• Google limita el verificador a aproximadamente 10 comprobaciones de imágenes al día y las marcas de OpenAI y Google no son reconocidas entre sí.
• Investigadores consideran que los metadatos criptográficamente verificables de C2PA podrían ayudar más a demostrar qué contenido auténtico es real.

SynthID resiste cientos de ediciones, pero no puede detener la desinformación de la IA

Una marca de agua diseñada para resistir

La escala del contenido generado por inteligencia artificial crece a una velocidad difícil de dimensionar. Starling Lab, una colaboración de investigación entre Stanford University y University of Southern California, estima que la humanidad tardó hasta 1975 en producir 1.500 millones de imágenes, 149 años después de la invención de la cámara.

Los modelos generativos alcanzaron esa misma cantidad en apenas 18 meses. Google afirmó esta primavera, durante su evento I/O, que sus herramientas habían contribuido a crear más de 100.000 millones de imágenes y videos de IA en solo un par de años.

Para responder a este crecimiento, Google impulsa SynthID, una tecnología que incorpora una marca de agua invisible en imágenes, videos y archivos de audio. La compañía busca que las personas puedan identificar el origen artificial de un contenido incluso después de que haya circulado por Internet.

Existen dos enfoques principales para etiquetar contenido generado por IA. Las marcas invisibles como SynthID modifican los píxeles o la forma de onda, mientras que sistemas de metadatos como la Coalición para la Procedencia y Autenticidad del Contenido, conocida como C2PA, registran información verificable sobre el archivo.

C2PA utiliza protección criptográfica y no puede falsificarse con facilidad, pero resulta sencillo eliminar sus metadatos. Editar y guardar una imagen, o simplemente tomar una captura de pantalla, puede borrar esa información sin alterar necesariamente el aspecto visible del contenido.

SynthID intenta resolver esa vulnerabilidad mediante una señal distribuida dentro de la imagen. Google DeepMind desarrolló el sistema suponiendo que otras personas intentarían atacarlo, según explicó Pushmeet Kohli, científico de la compañía.

Kohli afirmó que el equipo estudió transformaciones como filtros, recortes y otros cambios habituales. El objetivo consistía en mantener la capacidad de detección después de que una imagen sufriera modificaciones propias del intercambio constante en plataformas digitales.

Una prueba independiente sometió el sistema a un proceso acelerado de degradación. El experimento utilizó la biblioteca de Python Pillow para simular cientos de ciclos de compresión y redimensionamiento, con valores elegidos aleatoriamente dentro de rangos establecidos.

La evaluación incluyó dos clases de material. Una imagen había sido creada completamente desde cero por un modelo, mientras que la otra correspondía a una fotografía original modificada con inteligencia artificial.

Ambas imágenes fueron generadas con Nano Banana Pro y contenían SynthID. La edición de sus metadatos no eliminó la marca, porque la señal relevante estaba integrada directamente en los píxeles.

Los límites aparecen con el recorte

El experimento convirtió imágenes nítidas en archivos casi irreconocibles después de 300 generaciones de compresión. Aun así, el detector continuó identificando SynthID en las versiones de cuadro completo, tanto en la imagen enteramente artificial como en la fotografía editada.

El sistema también resistió una captura de pantalla de la imagen completa. La explicación reside en que los píxeles especiales están repartidos por toda la composición y pueden transferirse al nuevo archivo durante ese proceso.

La resistencia se mantuvo incluso cuando las imágenes fueron recortadas periódicamente sin una nueva reencodificación. Sin embargo, la protección no resultó absoluta y finalmente aparecieron condiciones capaces de desactivar la detección.

Después de 300 ciclos de compresión, un recorte del 20% en los bordes bastó para que SynthID dejara de ser identificado en las dos imágenes de prueba. Un recorte del 50% pudo romper la marca antes, cerca de las 250 iteraciones.

El resultado muestra una paradoja. SynthID puede sobrevivir a una degradación extrema, pero para entonces el material puede tener una calidad tan baja que ya no resulte útil como imagen.

La publicación Ars Technica probó el sistema y concluyó que la marca de agua puede degradarse de forma gradual, aunque no constituye una solución completa para la desinformación. La misma prueba evidenció que basta modificar una parte suficiente de la imagen para eliminar una señal que parecía persistente.

Google nunca presentó SynthID como una tecnología invulnerable. El artículo original sobre el sistema indica que la marca no está diseñada para resistir ataques adversariales, es decir, intentos deliberados de encontrar una forma de evadirla.

Algunas personas aseguran haber hackeado SynthID, pero esas afirmaciones no pudieron confirmarse mediante pruebas. Kohli señaló que el equipo de Google tampoco había conseguido replicar los métodos alternativos descritos públicamente.

La seguridad digital rara vez es permanente. Si alguien encuentra una técnica efectiva para eludir SynthID, Google podría quedar atrapado en un ciclo constante de actualización de la marca para bloquear nuevos ataques.

El riesgo aumenta a medida que el sistema se vuelve más popular. Google y OpenAI concentran una parte importante del mercado de IA para consumidores, mientras otras compañías como Runway y Nvidia también avanzan hacia la adopción de tecnologías relacionadas.

Un ecosistema fragmentado y una verdad difícil de probar

La protección técnica no es el único problema. El acceso al verificador de SynthID está limitado, porque Google no ofrece una API pública ni una página web abierta para analizar directamente cualquier imagen sospechosa.

En la práctica, una persona debe pedirle a Gemini que active el verificador. Google restringe el sistema a aproximadamente 10 comprobaciones de imágenes por día, una medida que busca evitar que alguien realice consultas sucesivas para perfeccionar un método de evasión.

El bloqueo puede llegar incluso antes si el usuario carga demasiadas imágenes parecidas. Esa limitación genera dificultades en momentos de alta tensión política, cuando verificar varias imágenes puede ser necesario para evaluar acusaciones, campañas de difamación o ataques contra rivales.

La adopción de tecnologías similares tampoco garantiza una experiencia uniforme. OpenAI y Runway eligieron utilizar la tecnología subyacente de SynthID, pero sus marcas de agua concretas son diferentes.

El detector de Google no reconoce la marca de agua de OpenAI. Del mismo modo, el detector de OpenAI no identifica la señal de Google, por lo que una imagen puede pasar por varias herramientas sin activar ninguna alerta.

El usuario tampoco siempre sabe qué sistema produjo el archivo. Esa falta de contexto obliga a probar diferentes verificadores, aunque el contenido pueda haber sido generado por una herramienta cuya marca no sea compatible con ninguna de ellas.

Un portavoz de Google reconoció que la experiencia actual es subóptima. La compañía asegura que trabaja con socios de la industria para hacer la verificación más accesible y unificada, con la meta de construir un ecosistema interoperable entre plataformas.

Incluso si se resuelven los problemas de acceso y compatibilidad, las marcas de agua no podrán abarcar todo el contenido sintético. Existen innumerables empresas que ofrecen generación de imágenes y videos, y no todas aceptarán incorporar marcas invisibles o metadatos.

Adam Rose, investigador y asesor sénior de Starling Lab, señaló que el problema no se limita a los productos de Google y OpenAI. También incluye a las personas que ejecutan sus propios modelos en computadoras personales.

Actualmente existen modelos abiertos capaces de generar imágenes sin ningún etiquetado. Esos sistemas pueden compartirse, modificarse y mejorarse de manera indefinida, incluso si los principales proveedores adoptan estrategias de identificación más completas.

Para Rose, el contenido sintético ya salió de la botella. La abundancia ilimitada puede reducir el valor del material digital y aumentar la demanda de pruebas capaces de demostrar que una imagen o un video es auténtico.

El riesgo más delicado aparece cuando la ausencia de una marca se interpreta como una prueba de legitimidad. Una imagen sin SynthID no necesariamente es real, porque también pudo producirse con una herramienta que nunca incorporó el sistema.

De detectar falsedades a demostrar autenticidad

La expansión de la IA puede fortalecer el llamado dividendo del mentiroso. Esta estrategia consiste en negar una evidencia real alegando que fue manipulada o generada artificialmente.

Una figura pública puede responder a una acusación con la frase “eso es IA” y sembrar dudas sobre material auténtico. La proliferación de falsificaciones hace que esa defensa resulte más plausible, incluso cuando existen pruebas legítimas.

Por esa razón, los investigadores citados plantean cambiar el enfoque. En lugar de intentar descubrir cada archivo falso dentro de un océano de contenido desconocido, proponen concentrarse en certificar el material auténtico y de alto valor.

Mike Caronna, fotoperiodista veterano y miembro de Starling Lab, explicó que existe un límite físico para la cantidad de contenido que pueden producir las cámaras reales. En cambio, no hay un límite comparable para la creación de material sintético.

Caronna considera que la información veraz se convertirá en un recurso escaso. Si una plataforma puede demostrar que un archivo fue capturado por una cámara real y que su historial no presenta manipulaciones ocultas, ese registro podría tener más valor que una simple etiqueta negativa.

En ese escenario, C2PA ofrece una alternativa complementaria a SynthID. Sus metadatos criptográficamente verificables pueden mostrar cómo, cuándo y con qué dispositivo se creó o modificó un archivo.

El sistema no busca ocultarse como una marca de agua. Funciona como un registro de procedencia que revela la historia digital del contenido y puede indicar si se utilizó IA para alterarlo.

Sin embargo, C2PA todavía tiene una presencia limitada. Pocos teléfonos y cámaras incorporan estas huellas digitales, mientras que la mayoría de los sitios web y aplicaciones no muestran sus datos de procedencia al público.

Los teléfonos Pixel de Google están entre los dispositivos de consumo con mayor integración de C2PA. Las imágenes y videos capturados con equipos como el Pixel 10 incluyen metadatos protegidos criptográficamente sobre el momento y la forma de captura.

Ese registro también puede indicar si una herramienta de inteligencia artificial intervino en el contenido. La combinación de procedencia y etiquetado podría ofrecer una visión más completa que cualquiera de los dos métodos por separado.

Google se encuentra en una posición relevante porque impulsa tanto SynthID como la integración de C2PA. Aun así, ninguna de las dos tecnologías puede demostrar por sí sola que toda imagen sin una etiqueta sea falsa o verdadera.

En el futuro, los usuarios podrían considerar sospechoso el contenido que carezca de datos de procedencia verificables. Esa práctica no resolvería todos los casos, pero reflejaría una realidad en la que unas pocas palabras pueden generar una corriente interminable de desinformación.

La marca de agua sigue siendo una herramienta útil para identificar parte del contenido generado por IA. No obstante, su eficacia depende de la adopción, la interoperabilidad, la disponibilidad de detectores y la capacidad de resistir ataques diseñados específicamente para evadirla.

El desafío central no consiste únicamente en etiquetar lo artificial. También exige crear mecanismos confiables para demostrar qué material es auténtico, conservar su historial y protegerlo frente a quienes intenten negar hechos reales.

Imagen original de DiarioBitcoin, creada con inteligencia artificial, de uso libre, licenciada bajo Dominio Público.

Este artículo fue escrito por un redactor de contenido de IA y revisado por un editor humano para garantizar calidad y precisión.

ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín