Por Canuto  

Pangram presentó dos modelos para identificar imágenes y videos generados con inteligencia artificial. La empresa reporta 99,5% de precisión para su detector de imágenes y atribuye a su modelo de video una puntuación de 98,7% en el benchmark DF26. Son resultados que deben leerse considerando que algunas evaluaciones fueron realizadas por la propia compañía.
***

  • Pangram Image 1.0 analiza imágenes fijas y puede generar mapas de calor para localizar contenido que considere generado con IA.
  • La empresa atribuye a Image Flash 1.0 una puntuación de 98,7% en DF26, un benchmark académico de 2.691 clips.
  • Los modelos funcionan en la aplicación web y la API; Image 1.0 también está disponible en la extensión de Chrome.

Pangram amplió su oferta de detección de contenido sintético con dos modelos destinados a imágenes y video. La startup, conocida por su herramienta para identificar textos escritos con inteligencia artificial, presentó Pangram Image 1.0 para imágenes fijas y una versión más pequeña y rápida, Image Flash 1.0, que analiza videos cuadro por cuadro.

La empresa sostiene que sus nuevos sistemas pueden encontrar imágenes generadas por IA incluso cuando aparecen mezcladas con elementos auténticos. Una de las funciones de Image 1.0 produce un mapa de calor para señalar las zonas sospechosas, lo que permitiría distinguir, por ejemplo, un objeto o detalle falso añadido a una fotografía real.

Dos modelos para imágenes y video

La diferencia principal entre los lanzamientos está en el tipo de material que procesan: Image 1.0 examina una imagen fija, mientras que Image Flash 1.0 recorre los cuadros de un video. Pangram describe al segundo como un modelo más pequeño y rápido, una característica relevante para revisar secuencias en las que las alteraciones podrían aparecer solo durante parte del clip.

El mapa de calor busca aportar algo más que una clasificación general de auténtico o generado por IA. En una demostración de la compañía, una foto real de un restaurante contenía un mural creado artificialmente en la pared, y el análisis destacaba esa parte sin tratar toda la fotografía como falsa.

Ese tipo de localización puede ser importante en imágenes compuestas, donde una persona incorpora un elemento sintético a una escena que sí existió. En vez de limitarse a etiquetar la foto completa, la herramienta intenta indicar dónde detecta el contenido cuestionado, aunque el resultado sigue siendo una evaluación del modelo y no una prueba definitiva sobre el origen de cada píxel.

Los modelos también aceptan imágenes de menor resolución que la que requerían versiones anteriores: el umbral baja de 512 por 512 píxeles a 256 por 256. Pangram advierte que los resultados de imágenes por debajo de 512 píxeles llegan con menor confianza, una salvedad que importa cuando las capturas han perdido detalle o circulan en formatos reducidos.

Las cifras que presenta Pangram

En la presentación de su detector de imágenes, Pangram reporta una precisión de 99,5% en una evaluación interna y una tasa de falsos positivos de 0,16%. La compañía indica que, en su benchmark interno de cinco detectores comerciales, el sistema superó al siguiente competidor, que obtuvo 98%. Estas cifras son resultados comunicados por la propia empresa y no deben interpretarse automáticamente como una medición independiente ni como una garantía de desempeño en cualquier plataforma o condición de uso.

La compañía también diseñó una prueba propia con copias generadas por IA de 100 fotografías reales. Para producirlas utilizó 12 generadores de imágenes y prompts que buscaban acercarse a cada original; en ese conjunto específico, Pangram Image 1.0 obtuvo una precisión de 99,96%, según la empresa.

Ese resultado elevado corresponde a un experimento elaborado por la misma empresa que desarrolla el detector, no a una revisión externa. El diseño de la prueba, las imágenes seleccionadas y la forma de medir los aciertos condicionan lo que puede concluirse, por lo que el dato no debe confundirse con una garantía de precisión equivalente frente a cualquier falsificación que aparezca en internet.

Para video, Pangram usó DF26, un benchmark académico que reúne 2.691 clips, de los cuales 271 son reales y 2.420 fueron generados. El conjunto se centra en personas hablando a cámara. Según el borrador de la evaluación descrita por la compañía, los autores del benchmark encontraron que las personas y los principales detectores apenas superaban el azar al distinguir clips reales de falsos, un punto de referencia que hace más llamativa la puntuación que Pangram atribuye a su modelo.

Una ventaja declarada que aún requiere cautela

Pangram asegura que Image Flash 1.0 alcanza 98,7% en DF26 y que aventaja por 29 puntos al siguiente detector mejor situado en esa evaluación. La cifra se refiere a ese benchmark concreto y no permite concluir por sí sola que el sistema mantendrá el mismo desempeño ante todo tipo de video sintético o manipulado. El estudio académico sobre el conjunto DF26 está disponible en este enlace.

La empresa dice entrenar sus modelos para reconocer señales pese a compresión, desenfoque y ruido, alteraciones que pueden aparecer cuando las plataformas procesan un archivo o cuando alguien intenta dificultar su detección. Esa capacidad es relevante porque el material que llega a una herramienta suele haber pasado por cambios respecto del archivo original, pero Pangram no ofrece en la información difundida una medición separada del efecto de cada una de esas condiciones.

La compañía presenta sus resultados en un momento en que otros sistemas de detección también han mostrado fallos. En agosto, la herramienta de Pangram para texto señaló como parcialmente generado con IA un artículo de opinión de una profesora de Berkeley, quien negó haber usado esa tecnología; el caso ilustra el riesgo de tratar una alerta automatizada como una conclusión definitiva.

Otras pruebas divulgadas en la cobertura de la industria refuerzan esa cautela: Reuters encontró que el detector de imágenes de Meta no reconoció más de la mitad de las falsificaciones recortadas hechas con su propio generador. En otro caso, una red de YouTube que pagó a actores reales para leer guiones escritos con IA logró eludir los detectores de la plataforma, una combinación que muestra cómo la voz humana puede complicar la clasificación automática.

Acceso a los modelos y apuesta de la startup

Pangram puso los nuevos modelos a disposición mediante su aplicación web y una API que ahora procesa tanto imágenes como videos. Image 1.0 también funciona en la extensión de Chrome de la empresa, que señala contenido generado con IA en redes sociales y en sitios de compras y alquileres; los usuarios pueden subir videos a la aplicación web para analizarlos.

La expansión lleva el detector más allá del análisis de texto, área por la que Pangram se hizo conocida. Su herramienta de escritura ya funciona en Substack, según la información publicada, mientras que la extensión de Chrome suma la detección visual en espacios donde usuarios consultan publicaciones o anuncios antes de confiar en ellos.

La compañía también se inserta en una respuesta más amplia de las plataformas al contenido sintético: Snapchat dejó de recomendar videos generados con IA en Spotlight. Esa decisión no equivale a una solución general para identificar falsificaciones, pero evidencia que la distribución y recomendación de material artificial se ha convertido en una cuestión operativa para los servicios digitales.

Pangram recaudó USD $9 millones en una ronda liderada por Menlo Ventures en julio, cuando presentó por primera vez su detección de imágenes. El lanzamiento de Image 1.0 y Flash 1.0 amplía esa apuesta hacia el video y suma canales de acceso, aunque la utilidad práctica de los modelos dependerá de cómo se comporten fuera de las pruebas comunicadas por la empresa y de que sus alertas se interpreten con prudencia.


ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín

Artículos Relacionados