Por Canuto  

Anthropic explicó el viernes cómo funcionará la marca de agua en los textos generados por Claude, una medida para cumplir con la Ley de IA de la UE. La empresa detalló el uso de SynthID-Text, la resistencia a la edición y el impacto en el código, mientras una parte de los usuarios reacciona con cancelaciones y acusaciones de censura.
***

  • Anthropic usará la tecnología SynthID-Text de Google DeepMind para marcar el texto de Claude, con una API de detección planificada.
  • La marca de agua es invisible para el lector, pero detectable con una clave; la edición ligera no la elimina, solo una reescritura completa.
  • El código generado tendrá menos marcas de agua, excepto en comentarios y elecciones arbitrarias; otros desarrolladores también implementarán el sistema.

Anthropic publicó el viernes una entrada en su blog para aclarar los detalles técnicos y las implicaciones de la marca de agua que añadirá a los textos generados por su chatbot Claude. La medida responde al Código de Transparencia de la Ley de IA de la Unión Europea, que exige a las empresas identificar el contenido generado por inteligencia artificial. La publicación llega después de que la compañía revelara su implementación a principios de semana, provocando un intenso debate entre los usuarios y decenas de cancelaciones de suscripciones, según reportó Business Insider.

El equipo de Anthropic respondió a preguntas básicas sobre el funcionamiento del sistema, su resistencia a la manipulación y su efecto en el código. La publicación comienza explicando que, al tomar decisiones de bajo riesgo —como elegir entre las palabras “nublado” y “gris” para describir el clima—, Claude puede crear un patrón en sus respuestas que resulta “indetectable para el lector, pero sí detectable para cualquiera que tenga una clave que lo codifique”. Esta técnica se basa en el enfoque SynthID-Text, desarrollado por el equipo de Google DeepMind en 2024, y la empresa planea lanzar una API de detección de marcas de agua.

¿Cómo funciona la marca de agua?

La marca de agua no altera la calidad de la respuesta, según aseguró la compañía: “Para un lector, una respuesta con marca de agua es indistinguible de una sin ella”. El método emplea decisiones de bajo riesgo para incrustar un patrón que es invisible para el ojo humano, pero que cualquier persona con la clave adecuada puede verificar. A diferencia de los detectores de IA que buscan “pistas” en la escritura, como la construcción “esto no es [X], es [Y]”, la marca de agua funciona como una verificación matemática, explicaron desde Anthropic.

En la publicación, la empresa distingue su método de otros enfoques de detección, como los de Pangram, que analizan patrones estilísticos para sospechar el uso de IA. “Detectar estos patrones es fundamentalmente diferente de verificar una marca de agua”, señalaron. La compañía también confirmó que utilizará SynthID-Text, una técnica que ya ha sido probada en otros contextos y que permite añadir marcas de agua a grandes volúmenes de texto generado por modelos de lenguaje.

La API de detección será una herramienta clave para que terceros puedan verificar si un texto proviene de Claude, lo que podría facilitar el cumplimiento normativo para empresas y plataformas. Sin embargo, Anthropic no dio una fecha exacta para su lanzamiento, solo dijo que está en planes. Esta transparencia busca responder a las críticas de quienes ven la medida como un control excesivo, mientras otros la consideran un paso necesario para combatir la desinformación.

¿Puede evadirse la marca de agua?

Una de las preguntas más recurrentes es si la marca de agua puede ser eliminada mediante edición. Anthropic reconoció que es posible, pero aclaró que “la edición ligera probablemente no eliminará la marca de agua por completo”, mientras que “una reescritura completa donde se reemplace cada palabra sí lo hará”. En ese caso, la empresa se pregunta: “es discutible si el texto aún puede describirse como generado por IA”.

Para textos que solo fueron corregidos o editados por Claude, la situación es distinta. La marca de agua depende de la longitud del texto y de cuánto haya sido editado por el modelo. Si la edición es ligera, “casi todas las palabras” habrán sido escritas por el autor humano, y habrá “muy poco (si acaso algo) a lo que la marca de agua pueda adherirse”, explicó la compañía. Esto significa que la herramienta es efectiva para textos generados de principio a fin, pero pierde eficacia cuando el humano realiza modificaciones sustanciales.

Los usuarios han mostrado opiniones divididas en Reddit y X. Un usuario calificó la medida como “una conspiración contra los usuarios inocentes de Claude”, mientras otro afirmó: “La única razón por la que no querrías esto es para mentirle a la gente”. Business Insider reportó que “docenas” de usuarios en X afirmaron haber cancelado sus suscripciones a Claude como protesta. Esta reacción refleja la tensión entre la transparencia exigida por los reguladores y la percepción de pérdida de privacidad por parte de algunos usuarios.

El caso del código y otros matices

Otra preocupación es el impacto en la generación de código, un uso frecuente de los chatbots. Anthropic dijo que el código tendrá menos marcas de agua que el texto normal, porque el modelo necesita producir código funcional y no tiene la libertad de elegir entre opciones igualmente válidas. Sin embargo, “en áreas donde hay una elección arbitraria entre palabras o términos particulares dentro del código, la marca de agua puede usarse, como en los comentarios dentro del código”.

La empresa aclaró que, por definición, la marca de agua tendrá “un efecto insignificante en el código real producido”. Esto significa que los desarrolladores que usan Claude para programar no verán afectada la funcionalidad del código, aunque los comentarios o nombres de variables podrían contener el patrón. La decisión de aplicar la marca de agua solo en elementos no funcionales parece un equilibrio entre el cumplimiento normativo y la utilidad práctica para los programadores.

Anthropic también señaló que Claude no será el único chatbot en adoptar esta tecnología: “otros grandes desarrolladores de modelos han firmado el mismo Código de Práctica y estarán implementando sus propias marcas de agua”. Esto sugiere que la medida se convertirá en un estándar de la industria, al menos entre las empresas que operan en la Unión Europea o que desean cumplir con sus regulaciones.

Reacciones de los usuarios y el futuro

La controversia refleja un dilema más amplio sobre la regulación de la IA y los derechos de los usuarios. Por un lado, las marcas de agua ayudan a rastrear el contenido generado por máquinas, lo que podría combatir la desinformación y los deepfakes. Por otro, algunos usuarios las ven como una intromisión en su libertad creativa o como una herramienta de vigilancia. Las cancelaciones de suscripciones, aunque no representan una cifra masiva, muestran que una parte de la base de usuarios está dispuesta a protestar.

Anthropic no se ha pronunciado oficialmente sobre las cancelaciones, pero la publicación del blog parece un intento de tranquilizar a los usuarios explicando los beneficios y limites de la tecnología. La compañía insistió en que la marca de agua no afecta la calidad y que es una respuesta directa a las obligaciones legales de la UE. Este movimiento podría sentar un precedente para otras empresas de IA que operan bajo el mismo marco regulatorio.

En el corto plazo, la implementación de la marca de agua podría afectar la confianza de los usuarios, pero también podría aumentar la transparencia en el uso de la IA en medios, educación y otras industrias. La API de detección, si es ampliamente adoptada, permitiría a editores y plataformas verificar la procedencia del contenido, un paso hacia una mayor responsabilidad en el ecosistema digital. Queda por ver si los usuarios se adaptarán a esta nueva realidad o si buscarán alternativas no reguladas.

La noticia, reportada originalmente por TechCrunch, muestra una evolución en la forma en que las empresas de IA responden a las regulaciones. Anthropic no solo cumplirá con la ley, sino que ha elegido hacerlo con un método técnico sofisticado y documentado. La combinación de SynthID-Text con una API de detección podría convertirse en el estándar de la industria, aunque los detractores seguirán cuestionando su necesidad y sus implicaciones para la privacidad.


ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín

Artículos Relacionados