Por Canuto  

Un desarrollador llamado Guillaume Meyer publicó una herramienta que elimina las marcas de agua de IA implementadas por Anthropic en Claude, y su código se volvió viral en menos de tres días. En su análisis, Meyer argumenta que estas marcas son técnicamente defectuosas, éticamente problemáticas y solo castigan a los usuarios honestos, proponiendo alternativas como metadatos C2PA y etiquetas visibles.
***

  • El 11 de agosto, Anthropic anunció la marca de agua de Claude para cumplir con la UE, pero un desarrollador la vulneró en horas.
  • La herramienta de Guillaume Meyer recibió 2 millones de impresiones, 40.000 interacciones y 9.000 estrellas en GitHub, evidenciando la oposición de la comunidad.
  • Meyer sostiene que las marcas de agua castigan a los usuarios honestos y no detienen a los malintencionados, proponiendo transparencia basada en metadatos.

El 11 de agosto, Anthropic publicó un artículo explicando cómo Claude, su modelo de lenguaje, incorpora una marca de agua estadística en los textos que genera. Esta huella invisible, que se aplica a nivel mundial, fue diseñada para cumplir con las obligaciones de transparencia del Reglamento de IA de la Unión Europea, específicamente el Artículo 50, y Anthropic prometió que tanto su empresa como terceros podrían detectarla.

Lejos de ser recibida como una medida prudente, la iniciativa generó una ola de críticas y una reacción inesperada: Guillaume Meyer, un desarrollador, publicó una herramienta que elimina esas marcas de agua, y en menos de 48 horas se volvió viral, con más de 2 millones de impresiones, 40.000 interacciones y 9.000 estrellas en GitHub. Este artículo analiza los argumentos de Meyer y el impacto de su herramienta en el debate sobre la transparencia de la IA.

El contexto: la marca de agua de Claude y la Ley de IA europea

La marca de agua de Claude es una huella estadística tejida en las palabras, invisible para los lectores, que indica que una máquina estuvo involucrada en la generación del contenido. Según Anthropic, la detección de esta marca no es totalmente concluyente, y no confirma por sí sola la procedencia completa del contenido. La empresa incluso advierte que la marca puede desaparecer si el texto es muy editado, parafraseado, traducido o mezclado con otros escritos.

La implementación responde a la presión regulatoria de la UE, que exige que los sistemas de IA de riesgo general sean transparentes sobre su origen. Sin embargo, Meyer argumenta que esta técnica responde a una pregunta que nadie hizo: solo dice que una máquina estuvo involucrada, pero la autoría es un espectro, no un binario. Este matiz se vuelve especialmente problemático cuando un usuario edita o reescribe el texto, porque cuanto más trabajo humano hay, menos fiable es la marca.

Meyer, en su análisis, señala que una marca de agua es más fiable precisamente cuando el humano contribuyó menos, y menos fiable cuando el humano contribuyó más. Es decir, el sistema castiga a quienes hacen más trabajo de autoría y recompensa con la invisibilidad a quienes no hicieron nada, lo que revela un diseño defectuoso desde el punto de vista práctico y ético.

La controversia se intensificó cuando Meyer publicó su herramienta, que en pocos días acumuló decenas de contribuciones en GitHub y más de 9.000 estrellas. Su propósito no es fomentar el uso indebido de la IA, sino demostrar que la técnica es fácilmente evadible y que, por tanto, no cumple su función preventiva.

La respuesta de Meyer: una herramienta para eliminar las marcas

Guillaume Meyer, cuyo perfil en X es @guillaumemeyer, afirmó que creó el removedor porque quería ver cómo se hacía y prefería discutir el tema con las manos sucias que desde la barrera. Su herramienta no es una negación de la atribución de contenido, sino una crítica a la técnica en sí. “No estoy en contra de la atribución de contenido, estoy en contra de la técnica de marcas de agua”, escribió.

La viralidad de la herramienta, que alcanzó más de 2 millones de impresiones y 40.000 interacciones en menos de tres días, sorprendió incluso al propio Meyer. Los comentaristas lo llamaron desde héroe hasta saboteador regulatorio, y algunos incluso generaron imágenes de él con IA, mostrando el nivel de polarización que generó el tema.

Meyer sostiene que el marcado de agua en texto, tal como se implementa, es un impuesto a los ingenuos: atrapa a quienes nunca necesitaron ser atrapados y deja pasar a quienes supuestamente debía detener. Un usuario honesto que comparte un texto sin saber que lleva la marca se vuelve vulnerable, mientras que un operador de desinformación o un estafador simplemente eliminará la marca antes de publicar.

La herramienta de Meyer se basa en la misma documentación de Anthropic, que admite que la marca puede desaparecer con la edición intensiva, la paráfrasis, la traducción o la combinación con otros textos. En cuestión de horas, Meyer logró revertir la técnica, lo que puso en evidencia la fragilidad de esta estrategia de transparencia.

Los argumentos técnicos contra la marca de agua

Uno de los principales señalamientos de Meyer es que las marcas de agua no son suficientemente fiables como para ser evidencia en ningún contexto. Según el propio centro de ayuda de Anthropic, la detección es estadística, y un resultado positivo es un veredicto con una puntuación de confianza, es decir, una probabilidad, no un hecho. Además, la ausencia de marca no significa que el contenido no haya sido generado por IA.

Esto implica que cada detector intercambia fallos contra falsos positivos: si se ajusta para detectar más texto con marca, se acusará a más personas inocentes. En el caso de Anthropic, la empresa promete que terceros también podrán usar el motor de detección, lo que significa que escuelas, empleadores y plataformas podrían utilizarlo sin la debida cautela.

Meyer cita ejemplos concretos: un estudiante acusado de hacer trampa en un ensayo que ella escribió, un escritor señalado por un artículo que le costó arduo trabajo, un empleado suspendido por un informe que redactó y editó. Cada falso positivo tendrá un rostro humano, y eso es inaceptable cuando la propia Anthropic admite que la marca no es concluyente.

Además, la marca de agua no distingue entre involucramiento y autoría. Meyer señala que, una vez que se acepta que “una máquina estuvo involucrada” equivale a “una máquina escribió esto”, se abre la puerta a que el proveedor del modelo reclame derechos sobre el texto. Esto borra la contribución humana y entrega el peso moral de las palabras a las empresas de IA.

El problema ético: falsos positivos y castigo al usuario honesto

El aspecto más preocupante para Meyer es el impacto en personas que no tienen conocimiento técnico. Un médico que usa un escriba de IA para redactar notas, las revisa, corrige y firma, asume la responsabilidad legal y ética, pero una marca de agua lo etiquetaría como generado por máquina, erosionando la confianza de los pacientes. Según cifras citadas por Meyer, solo en Kaiser Permanente, 7.260 médicos utilizaron escribas de IA generativa en 2,5 millones de consultas en poco más de un año.

La marca de agua no dice quién es responsable; solo dice que una máquina tocó el texto, y deja que todos saquen la conclusión equivocada. Meyer argumenta que los pacientes deberían saber que se usó una herramienta, pero también deben saber que el médico es el responsable. “Etiquetar erróneamente el registro de un médico responsable no es transparencia, es daño”, sentencia.

La asimetría es evidente: cualquier persona con conocimientos básicos puede eliminar la marca, incluida la herramienta de Meyer. Entonces, ¿quién queda marcado? El usuario honesto, el estudiante que no sabe que la huella está ahí, el bloguero que nunca oyó hablar del detector. Los actores maliciosos, los operadores de desinformación, los defraudadores, no se ven afectados, porque quitarán la marca antes de publicar.

Esta crítica coincide con la de muchos expertos en seguridad, que consideran que las marcas de agua de texto son inherentemente frágiles y no aportan una verdadera protección contra el uso indebido de la IA. Meyer sostiene que la UE quería transparencia contra el engaño, pero obtuvo una etiqueta que solo frena a quienes nunca fueron el problema.

La propuesta de Meyer: transparencia sin marcas de agua

Frente a las marcas de agua, Meyer propone alternativas que considera más robustas y éticas. La primera es la procedencia a nivel de plataforma, mediante metadatos de procedencia firmados, siguiendo el estándar abierto C2PA, adjuntos a los archivos generados. Esta técnica es visible para cualquier herramienta compatible y respeta la autoría humana.

También sugiere que las marcas de agua, si se usan, sean solo una señal débil: una pista, nunca un veredicto, nunca una base para acusar. Anthropic ya dice que una marca detectada no es totalmente concluyente, así que debería tratarla de esa manera.

La propuesta más simple es la de etiquetas honestas: “Esto fue asistido por IA”, dicho claramente, en el punto de compartir, por la persona que comparte. Una etiqueta visible, no una huella oculta. Meyer cree que esa es la transparencia que sobrevive a la edición, que respeta al autor y que nunca confunde una probabilidad con un hecho.

Meyer aclara que no está en contra de la transparencia, sino del único método que está garantizado que fallará. Su crítica es técnica y ética, y su herramienta fue una demostración práctica de que la marca de agua es evadible, lo que refuerza su argumento de que no cumple su propósito.

La viralidad como señal

La viralidad de la herramienta de Meyer no fue un accidente. Decenas de miles de personas, en múltiples idiomas, decidieron independientemente que no quieren que sus propios borradores sean marcados. Meyer la interpreta como una señal para los reguladores y laboratorios: cuando se estampa tinta invisible en las palabras de la gente, se descubre cuántas personas consideran que sus palabras son suyas.

La respuesta, según Meyer, es casi todas. La herramienta se convirtió en un voto de la comunidad en contra de un mecanismo que, en su opinión, es incorrecto técnica, legal y éticamente. Su análisis ha sido ampliamente discutido en foros y redes sociales, y ha puesto en duda la estrategia de Anthropic.

Anthropic aún no ha respondido oficialmente, pero la controversia destaca un problema fundamental en la regulación de la IA: cómo equilibrar la transparencia con la protección de los derechos de los usuarios. La propuesta de Meyer de usar metadatos y etiquetas honestas podría ser un punto de partida para un debate más informado.

En un contexto donde la IA generativa se integra cada vez más en el trabajo humano, la cuestión de la autoría y la responsabilidad es crucial. La historia de Meyer no es solo la de un desarrollador que violó una herramienta, sino la de una comunidad que defiende su derecho a sus propias palabras.


ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín

Artículos Relacionados