Por Angel Di Matteo   𝕏 @shadowargel

La herramienta utiliza firmas criptográficas en el momento de captura para combatir deepfakes y contenido manipulado.

***

  • ZCAM firma fotos y videos desde el iPhone al capturarlos.
  • Busca diferenciar contenido real de material generado por IA.
  • Deloitte estima pérdidas por fraude con IA de hasta USD $40.000 millones.

 

La firma tecnológica Succinct Labs presentó una nueva aplicación móvil diseñada para enfrentar uno de los desafíos más complejos de la era digital: la proliferación de contenido falso generado por inteligencia artificial. Se trata de ZCAM, una app para iPhone que utiliza criptografía para registrar de forma verificable el origen de fotos y videos desde el mismo momento en que son capturados.

De acuerdo con un comunicado de la compañía, la herramienta permite “firmar” cada archivo multimedia en tiempo real, generando un registro inalterable que vincula el contenido con el dispositivo que lo creó, lo que abre la puerta a un nuevo estándar de verificación digital, indica un reporte publicado por The Block.

Este enfoque busca responder a un problema creciente en el ecosistema digital, donde la facilidad para crear imágenes y videos hiperrealistas mediante IA ha comenzado a erosionar la confianza en la autenticidad del contenido visual.

Cómo funciona la verificación criptográfica

La propuesta de Succinct se basa en un principio distinto al de los detectores tradicionales de contenido falso, que intentan identificar si una imagen o video ha sido manipulado. En lugar de ello, ZCAM apunta a demostrar directamente la autenticidad del contenido desde su origen, lo que, según muchos expertos, podría ser un enfoque más robusto en el largo plazo.

Cuando un usuario captura una imagen o video utilizando la aplicación, el sistema genera un hash criptográfico único basado en los píxeles del archivo, creando una huella digital irrepetible. Este proceso se apoya en el hardware del dispositivo, lo que permite producir firmas criptográficas únicas que no pueden ser replicadas fácilmente por software externo.

Según la compañía, esto permite que cualquier persona pueda verificar de forma independiente si un contenido proviene de un dispositivo real y si ha sido alterado posteriormente, lo que introduce una capa adicional de confianza en un entorno cada vez más saturado de contenido sintético.

Limitaciones de los detectores tradicionales

Succinct también cuestionó la efectividad de los detectores comerciales de contenido generado por IA, afirmando que estos pueden fallar con relativa facilidad frente a modelos cada vez más avanzados. Este problema se ha vuelto más evidente a medida que las herramientas de generación de imágenes y video han mejorado su capacidad para imitar detalles humanos y contextuales.

En ese sentido, la compañía sostiene que confiar exclusivamente en la detección de falsificaciones podría no ser suficiente, especialmente en escenarios donde la precisión debe ser crítica, como el periodismo, la seguridad o los procesos legales.

Por ello, el enfoque de ZCAM se centra en garantizar la autenticidad desde el origen, lo que permitiría establecer una cadena de confianza verificable en lugar de depender de análisis posteriores que pueden ser inconsistentes.

Un problema con impacto económico creciente

El lanzamiento de ZCAM se produce en un contexto en el que los riesgos asociados al uso malicioso de la inteligencia artificial están aumentando rápidamente. Según el Center for Financial Services de Deloitte, las pérdidas por fraude impulsado por IA podrían alcanzar hasta USD $40.000 millones en Estados Unidos para 2027, frente a USD $12.300 millones registrados en 2023.

Estas cifras reflejan no solo el crecimiento de la tecnología, sino también su potencial para ser utilizada en esquemas de desinformación, suplantación de identidad y manipulación de contenido, lo que plantea desafíos significativos para empresas, gobiernos y usuarios.

En este escenario, herramientas como ZCAM buscan posicionarse como una solución preventiva, enfocada en fortalecer la confianza en la información digital antes de que se produzcan daños.

Competencia y enfoques alternativos

El desarrollo de soluciones para distinguir entre humanos y sistemas de inteligencia artificial no es exclusivo de Succinct. Proyectos como World, respaldado por Sam Altman, también están explorando el uso de tecnología blockchain para abordar este problema.

En el caso de World, el enfoque consiste en asignar identificadores digitales a personas que demuestran ser humanas, lo que permite diferenciar actores reales de sistemas automatizados en entornos digitales.

Aunque ambos enfoques comparten el objetivo de restaurar la confianza en internet, difieren en su implementación: mientras ZCAM se enfoca en el contenido, World se centra en la identidad del usuario.

Desafíos de adopción

A pesar de su propuesta técnica, uno de los principales retos que enfrenta ZCAM es lograr una adopción masiva entre usuarios. La utilidad de este tipo de herramientas depende en gran medida de que suficientes personas las utilicen, ya que su valor aumenta a medida que más contenido verificable circula en el ecosistema.

En este sentido, incentivar el uso cotidiano de la aplicación podría convertirse en el factor determinante para su éxito o fracaso, especialmente en un entorno donde los usuarios suelen priorizar la conveniencia sobre la seguridad.

No obstante, la empresa sugirió que sectores como el periodismo y el ámbito empresarial podrían beneficiarse directamente de esta tecnología, al permitir validar la autenticidad de imágenes y videos en contextos donde la veracidad es crítica.

El respaldo tecnológico y financiero

Succinct Labs no es un actor menor dentro del ecosistema tecnológico. En 2024, la firma cerró una ronda de financiamiento por USD $55 millones liderada por Paradigm, con la participación de fundadores de proyectos relevantes dentro del espacio blockchain.

Además, la compañía ha desarrollado infraestructura clave como su máquina virtual de conocimiento cero, conocida como SP1 zkVM, que según la empresa protege más de USD $4.000 millones en activos digitales.

En agosto del año pasado, Succinct lanzó el mainnet de su Succinct Prover Network, activando también su token nativo PROVE. Esta red opera como un mercado descentralizado sobre Ethereum, donde aplicaciones pueden solicitar pruebas de conocimiento cero y verificadores independientes compiten por procesarlas.

Este ecosistema técnico refuerza la estrategia de la empresa de integrar criptografía avanzada en aplicaciones prácticas, como en el caso de ZCAM, donde la verificación de contenido podría convertirse en una pieza clave en la lucha contra la desinformación digital.

Imagen original de DiarioBitcoin, creada con inteligencia artificial, de uso libre, licenciada bajo Dominio Público.

Este artículo fue escrito por un redactor de contenido de IA y revisado por un editor humano para garantizar calidad y precisión.


ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín

Artículos Relacionados