Por Canuto  

Pangram recaudó USD $9 millones y presentó nuevas herramientas para identificar textos e imágenes generados por inteligencia artificial, en medio de una creciente preocupación por la desinformación, las citas falsas y la pérdida de contenido humano en Internet.

***

  • Pangram obtuvo USD $9 millones en una ronda liderada por Menlo Ventures y lanzó Pangram 4 y Pangram Image.
  • La startup afirma que su nuevo detector de texto supera el 99% de precisión al identificar escritura asistida por IA y contenido mixto.
  • Sus herramientas ya son utilizadas por plataformas, universidades, editoriales, reclutadores y otros clientes mediante una API.

 

La startup Pangram recaudó USD $9 millones para desarrollar herramientas capaces de distinguir entre contenido escrito por personas y material generado o asistido por inteligencia artificial (IA). La empresa, con sede en Nueva York, busca responder a la expansión de textos automatizados, publicaciones de baja calidad y campañas de desinformación en Internet.

La ronda fue liderada por Menlo Ventures y contó con la participación de Haystack, ScOp, Script Capital y Cadenza. La inversión coincide con el lanzamiento de Pangram 4, el nuevo modelo de detección de texto de la compañía.

Pangram también presentó Pangram Image, un modelo diseñado para identificar imágenes creadas con inteligencia artificial. Esta herramienta permanece en una vista previa de investigación, aunque la empresa planea ampliar su disponibilidad durante las próximas semanas.

La compañía fue fundada hace aproximadamente dos años por Max Spero y Bradley Emi, graduados de inteligencia artificial y aprendizaje automático de Stanford. Ambos comenzaron el proyecto después del lanzamiento de ChatGPT, que aceleró la producción automatizada de contenido en línea.

Spero describió un entorno dominado por bots, textos de optimización para buscadores generados por IA y campañas de desinformación potenciadas por modelos de lenguaje. A su juicio, saber quién produjo un texto puede cambiar la forma en que los lectores evalúan sus afirmaciones.

El funcionamiento de Pangram 4 y Pangram Image

Pangram entrenó su sistema de detección con decenas de millones de documentos humanos conocidos. Después creó un espejo sintético para cada documento, con el mismo tema, extensión y tono, pero redactado por un modelo de lenguaje avanzado.

El modelo compara ambos grupos para identificar diferencias estilísticas y decisiones que la inteligencia artificial suele tomar de manera consistente. Según explicó Spero, el detector utiliza esos patrones para determinar con alta confianza si un texto fue generado por IA.

La tecnología no depende de metadatos de copiar y pegar ni de marcas de agua ocultas. Esa característica busca permitir la evaluación de textos aunque hayan sido trasladados entre plataformas, editados o publicados sin información técnica adicional.

Pangram 4 también intenta identificar distintos grados de participación de la IA. El sistema puede analizar un texto completamente generado, una pieza humana editada por un modelo o una combinación de aportes humanos y artificiales.

La empresa afirma que el nuevo modelo supera el 99% de precisión al detectar escritura asistida por IA y contenido mixto. Además, sostiene que puede reconocer con mayor facilidad los programas que intentan humanizar textos creados por modelos de lenguaje.

Pangram Image utiliza otra metodología. El sistema examina distribuciones a nivel de píxel y aprende diferencias estadísticas sutiles entre fotografías reales e imágenes generadas por IA.

La herramienta busca detectar material producido por distintos modelos, a diferencia de algunos sistemas basados en marcas de agua de OpenAI o Google DeepMind. Esos mecanismos suelen concentrarse principalmente en identificar imágenes creadas por sus propios sistemas.

Aplicaciones en medios, educación y tribunales

La creciente adopción de IA ya generó errores visibles en espacios públicos. Un político canadiense leyó en voz alta un aviso creado por un sistema de IA durante un discurso frente a legisladores, lo que provocó una situación embarazosa.

En el ámbito legal, algunos abogados presentaron argumentos con citas falsas producidas por ChatGPT. Las consecuencias pueden incluir sanciones y multas, porque los tribunales exigen que los profesionales revisen con cuidado las fuentes utilizadas en sus escritos.

Las instituciones académicas también endurecen sus controles. Una nueva política de aplicación en el archivo de acceso abierto arXiv señala que las presentaciones con evidencias de revisión insuficiente de la salida de un modelo pueden activar una prohibición de envío de un año.

Entre las señales de alerta figuran referencias alucinadas y comentarios meta como “¿Te gustaría que hiciera algún cambio?”. Estos indicios pueden revelar que los autores copiaron una respuesta de un modelo sin comprobarla ni eliminar elementos propios de una conversación con una herramienta.

Pangram ya ofrece una suscripción web de USD $20 mensuales y una extensión de Chrome. La extensión etiqueta publicaciones en tiempo real en X, LinkedIn, Substack, Reddit y Medium, además de mostrar una puntuación de salud del feed.

Ese indicador incluye un desglose porcentual del contenido humano y del contenido generado por IA que aparece en la pantalla del usuario. La empresa también comercializa su tecnología mediante una API para integrarla directamente en otros servicios.

Substack incorporó recientemente la tecnología de Pangram para mostrar a sus lectores qué autores utilizan IA en sus boletines. Según TechCrunch, otros clientes de la API incluyen Quora, escuelas, universidades, editores, agentes y reclutadores.

Las pruebas muestran avances, pero también límites

La reportera Rebecca Bellan puso a prueba el nuevo detector de texto y encontró resultados sólidos, aunque no perfectos. Pangram identificó con facilidad artículos noticiosos generados completamente por ChatGPT y Claude.

El sistema también resistió varios intentos de editar textos artificiales para que parecieran humanos. Tampoco cayó con facilidad ante instrucciones destinadas a que ChatGPT o Claude evitaran los detectores de contenido generado por IA.

Sin embargo, Pangram marcó algunas oraciones reescritas por completo como si hubieran sido producidas por IA. Este resultado muestra que la herramienta puede confundir ciertos estilos humanos con patrones asociados a modelos de lenguaje.

En otra prueba, la reportera entregó uno de sus artículos a ChatGPT y Claude para que lo pulieran. Pangram otorgó al texto una puntuación de 13% de asistencia de IA, una estimación considerada cercana a la realidad.

El modelo detectó cambios sutiles en la elección de palabras de algunas oraciones, pero pasó por alto otros. Además, señaló como asistidas por IA algunas frases escritas por una persona, aunque calificó el artículo completo como 100% humano.

La diferencia podría relacionarse con el estilo seco de ciertos artículos noticiosos. Un texto informativo, con estructuras previsibles y lenguaje directo, puede parecer artificial incluso cuando fue redactado íntegramente por una persona.

Las pruebas con Pangram Image ofrecieron resultados igualmente destacables. El detector identificó imágenes artificiales fotorrealistas y caricaturescas, y también encontró una imagen generada por IA insertada dentro de una fotografía del mundo real.

Aun así, el sistema cometió al menos un error al clasificar como humana una fotografía que mostraba una imagen generada por IA. Este caso confirma que las herramientas de detección deben complementar la revisión humana, no reemplazarla por completo.

Una industria en expansión y un debate pendiente

Pangram compite con Winston AI, Originality.ai, Copyleaks y GPTZero, empresas que desarrollan productos para atender la misma demanda. Todas buscan convertirse en una capa de verificación para plataformas, instituciones y usuarios preocupados por el contenido automatizado.

El desafío no consiste únicamente en determinar si un documento fue creado totalmente por una máquina. También implica establecer cuánto intervino la IA y diferenciar entre una edición menor, una colaboración parcial y una generación completa.

Spero considera que la asistencia de IA puede resultar aceptable si el autor informa de manera clara que utilizó una herramienta. Su postura evita presentar toda ayuda automatizada como una conducta indebida, aunque exige transparencia frente a los lectores.

La empresa tampoco quiere impulsar una cacería contra quienes utilizan inteligencia artificial para escribir. Su argumento central es que el público necesita mecanismos para evaluar el origen del contenido y decidir cuánto escepticismo aplicar ante lo que lee.

La preocupación se extiende a la calidad del debate público, los procesos académicos y la información utilizada en tribunales. En esos espacios, una afirmación falsa puede causar más daño que una simple publicación de baja calidad.

Según Spero, el futuro traerá una proliferación continua de contenido creado por IA. El fundador sostiene que la capacidad de cómputo crece más rápido que la población humana, por lo que la señal humana podría quedar ahogada si no se la protege de forma activa.

Ese pronóstico plantea una tensión relevante. Los detectores pueden ayudar a preservar la confianza, pero sus errores también podrían castigar a escritores humanos, estudiantes o profesionales que empleen herramientas de IA de manera legítima y transparente.

Por ahora, Pangram apuesta por resolver ese equilibrio mediante modelos más precisos, análisis de distintos niveles de asistencia y herramientas integradas en las plataformas donde circula el contenido. La evolución de esta tecnología determinará si la verificación se convierte en una práctica cotidiana o en otra fuente de disputas.

Imagen original de DiarioBitcoin, creada con inteligencia artificial, de uso libre, licenciada bajo Dominio Público.

Este artículo fue escrito por un redactor de contenido de IA.

 


ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín

Artículos Relacionados