Por Canuto  

Un estudio de investigadores del MIT plantea que, cuando un generador de imágenes aprende de conjuntos enormes, la influencia de una obra individual puede volverse imposible de detectar. El hallazgo complica tanto las demandas por derechos de autor como los intentos de demostrar qué datos usó un modelo.
***

  • Investigadores del CSAIL del MIT identificaron un fenómeno llamado decaimiento de atribución.
  • En conjuntos de datos grandes, eliminar una imagen o incluso las obras de un artista puede no cambiar la salida.
  • La arquitectura propuesta permite probar de forma directa la influencia de datos individuales y abre una paradoja sobre privacidad y autoría.

Un estudio de investigadores del Laboratorio de Informática e Inteligencia Artificial del MIT, conocido como CSAIL, sostiene que las imágenes generadas por modelos de difusión pueden perder cualquier vínculo detectable con una obra individual cuando el entrenamiento utiliza conjuntos de datos suficientemente grandes. El hallazgo introduce un problema incómodo para una industria que busca atribuir responsabilidades: una salida puede parecer inspirada en trabajos concretos, pero el modelo podría producirla sin haber dependido de ninguno de ellos.

El equipo denomina decaimiento de atribución a este fenómeno, porque la influencia de cada ejemplo se reduce a medida que aumentan los datos disponibles. Zheng Dai, investigador principal del trabajo, explicó que si retirar un dato no cambia la salida, resulta difícil sostener que ese dato contribuyó a ella; si ocurre lo mismo con cada ejemplo, la atribución individual deja de tener una base clara.

Una pregunta difícil de responder

La disputa sobre quién contribuyó a una imagen de inteligencia artificial está presente en demandas, propuestas regulatorias y debates públicos en distintos países. Los artistas reclaman reconocimiento, las empresas buscan reglas claras y los gobiernos necesitan criterios para asignar responsabilidades, pero todos tropiezan con la misma pregunta contrafactual: qué habría producido el modelo si nunca hubiera visto una imagen determinada.

Responderla de manera rigurosa exigiría volver a entrenar el sistema desde cero sin esa imagen y repetir el proceso para cada elemento del conjunto. Con millones de archivos, el costo computacional sería prohibitivo, por lo que los trabajos anteriores recurrieron a aproximaciones que calculaban o estimaban la influencia de cada dato sin eliminarlo realmente.

David Gifford, profesor del MIT e investigador del CSAIL, afirmó que el método de su equipo ofrece una prueba directa porque permite quitar las entradas y verificar si el resultado cambia. La diferencia es relevante para los debates legales, ya que una estimación estadística de influencia no equivale a demostrar que una imagen concreta fue necesaria para generar una salida.

El artículo describe el trabajo de Dai y Gifford en una publicación de acceso abierto en PNAS. La investigación fue respaldada por Schmidt Futures y se concentró en modelos de difusión, una arquitectura utilizada en la generación de imágenes y en otras aplicaciones científicas.

El conjunto de difusión

Para superar el obstáculo del reentrenamiento, los investigadores construyeron una arquitectura llamada conjunto de difusión. En lugar de depender de un modelo monolítico, el sistema reúne muchos componentes más pequeños, cada uno entrenado con un subconjunto diferente de los datos, de modo que los investigadores pueden apagar las partes que vieron una imagen específica.

Ese diseño permite construir un modelo contrafactual sin volver a entrenar todo el sistema. Si un componente observó una fotografía y se desactiva, la salida restante representa lo que el conjunto habría producido sin la participación de esa parte del entrenamiento, una diferencia metodológica que los autores consideran central frente a las técnicas aproximadas.

La arquitectura debía mantener una calidad comparable a la de los generadores convencionales para que el experimento tuviera valor práctico. Por ello, el equipo comparó sus conjuntos con 24 modelos estándar de difusión entrenados con los mismos datos y encontró imágenes de calidad comparable según medidas habituales.

Los resultados incluyeron además una señal favorable para la eficiencia del sistema. Cuantos más datos de entrenamiento utilizaban, mejor resistían los conjuntos la comparación con los modelos convencionales, lo que sugiere que la arquitectura podría aprovechar los datos con mayor eficiencia, aunque el estudio no presenta esta característica como una solución general para todos los modelos de IA.

La influencia se vuelve indistinguible

Con la capacidad de ablación disponible, los investigadores tomaron una imagen generada y construyeron un universo contrafactual: una alternativa por cada dato de entrenamiento que pudiera eliminarse. Después midieron el llamado radio contrafactual, definido como la diferencia máxima entre la imagen original y cualquiera de esas versiones alternativas.

El radio se redujo a medida que crecía el conjunto de entrenamiento, lo que indica que la salida cambiaba cada vez menos al retirar ejemplos individuales. La tendencia apareció en siete conjuntos de datos públicos distintos, incluidos retratos, obras de arte y rostros, además de modelos condicionados por clases o por descripciones de texto.

El equipo también probó eliminaciones colectivas para comprobar si el efecto se limitaba a imágenes aisladas. Retiró todas las imágenes de un artista concreto, todas las fotografías de una persona y clases completas, como imágenes de una especie animal o representaciones de un estilo determinado; aun así, las salidas se mantuvieron notablemente parecidas en los experimentos descritos.

Los investigadores buscaron descartar que el resultado fuera un artefacto de su arquitectura. En escalas pequeñas, donde sí era posible volver a entrenar los modelos desde cero para comparar, el decaimiento de atribución apareció igualmente, una comprobación que refuerza la interpretación de que el fenómeno no depende únicamente del método de conjunto.

Un dilema para derechos de autor y privacidad

El hallazgo llega en medio de litigios en los que artistas y empresas de medios sostienen que los modelos producen imágenes derivadas de sus trabajos. Los desarrolladores suelen responder que las similitudes son débiles y transformadoras, por lo que no necesariamente constituyen una infracción, pero el estudio plantea una dificultad adicional: a gran escala, la conexión entre una salida y una entrada individual puede ser demasiado débil para demostrar cualquiera de las dos narrativas de manera sencilla.

Dai describió el funcionamiento de estos modelos como un aprendizaje de patrones provenientes de millones de imágenes, no como una copia desde una sola fuente. Esa explicación no elimina los problemas jurídicos relacionados con la recopilación de datos, el consentimiento o las obras derivadas, pero sí sugiere que una imagen parecida no basta por sí misma para identificar cuál ejemplo produjo la salida.

Gifford sostuvo que la inteligencia artificial generativa suele describirse como una herramienta que copia o remezcla su contenido de entrenamiento, mientras que el estudio muestra que la relación con cualquier entrada puede volverse esencialmente indistinguible. A su juicio, esto exige marcos legales más matizados, porque la imposibilidad de atribuir una salida no demuestra automáticamente que no existan infracciones en otras etapas del desarrollo o uso del modelo.

La dificultad también afecta a la privacidad, en una paradoja que los autores destacan. Si un sistema solo pudiera generar la imagen de una persona después de haber sido entrenado con ella, la capacidad de producirla sería una señal de que la vio; sin embargo, si puede generar una imagen similar sin esa fotografía específica, desaparece una pieza de evidencia para demostrar el uso indebido de los datos personales.

Qué podría cambiar en la industria

Los autores plantean que una arquitectura formada por componentes activables y desactivables podría ayudar a las empresas a certificar que una salida no depende de un dato concreto protegido por derechos de autor. Esa certificación no resolvería por sí sola la legalidad de un conjunto de entrenamiento completo, pero ofrecería una forma verificable de evaluar si una obra individual fue determinante para un resultado.

Gifford presentó esa capacidad como una obligación potencial y no solo como una opción técnica. Según su argumento, las empresas que quieran afirmar que sus resultados no son derivados de contenido de Internet de una manera infractora deberían utilizar métodos capaces de demostrar que no están creando derivados de obras individuales.

James Grimmelmann, profesor de derecho digital y de la información en la Facultad de Derecho de Cornell, señaló que una atribución confiable podría ayudar a distinguir entre copia y coincidencia cuando una salida se parece a una obra protegida. No obstante, advirtió que si la atribución falla en modelos de gran escala, los tribunales tendrán que buscar otras maneras de evaluar la copia.

El estudio no establece que todos los sistemas de inteligencia artificial produzcan el mismo resultado ni responde si el decaimiento se aplica a los grandes modelos de lenguaje. Esa cuestión permanece abierta, especialmente porque esos modelos están en el centro de algunos de los litigios de derechos de autor más visibles, mientras la investigación presentada se ocupa de modelos de difusión para generación de imágenes.

La conclusión práctica es menos cómoda que una respuesta binaria sobre si la IA copia o no copia. Cuando el entrenamiento crece hasta cientos de miles de imágenes, como en los experimentos de hasta 160.000 archivos realizados por el equipo, la prueba de dependencia individual puede desaparecer, obligando a artistas, empresas y jueces a separar la autoría de una salida concreta de la responsabilidad por construir y operar el sistema.

Imagen original de DiarioBitcoin, creada con inteligencia artificial, de uso libre, licenciada bajo Dominio Público.

Este artículo fue escrito por un redactor de contenido de IA y revisado por un editor humano para garantizar calidad y precisión.


ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín

Artículos Relacionados