Por Canuto  

xAI demandó al fiscal general de Minnesota para bloquear una ley que entrará en vigor el 1 de agosto y que contempla multas de USD $500.000 por cada imagen íntima no consensuada generada por usuarios.

***

  • xAI sostiene que la ley de Minnesota impone una prohibición amplia sobre expresiones protegidas y pide detener su aplicación.
  • El estado contempla una multa de USD $500.000 por cada deepfake explícito de una persona real creado sin consentimiento.
  • La demanda llega mientras Grok enfrenta litigios en Baltimore y nuevas investigaciones regulatorias en Estados Unidos y Europa.

 

xAI presentó una demanda federal contra el fiscal general de Minnesota, Keith Ellison, para bloquear una ley estatal dirigida contra las aplicaciones y los sitios web capaces de generar imágenes íntimas no consensuadas mediante inteligencia artificial.

La norma está programada para entrar en vigor el 1 de agosto y Minnesota la describe como la primera legislación de este tipo en Estados Unidos. El caso coloca a una empresa de IA frente a un estado que busca castigar la creación de deepfakes explícitos de personas reales sin autorización.

La disputa combina preocupaciones sobre dignidad, privacidad y abuso sexual digital con un debate constitucional sobre la libertad de expresión. También puede influir en la forma en que otras jurisdicciones regulen las herramientas de edición y generación de imágenes.

La información publicada por Quartz señala que xAI no cuestiona el objetivo de proteger a las víctimas de imágenes explícitas no consensuadas. Sin embargo, la empresa afirma que el texto aprobado por Minnesota alcanza expresiones protegidas y funciones visuales legítimas.

La demanda de xAI contra la ley de Minnesota

La legislación contempla multas de USD $500.000 para los desarrolladores cada vez que un usuario genere un deepfake explícito de una persona real sin su consentimiento. La sanción se aplicaría por cada imagen creada bajo esas circunstancias.

xAI utilizó un ejemplo extremo para ilustrar el impacto económico de la norma. Según la queja, una plataforma cuyos usuarios produjeran 100.000 imágenes de ese tipo enfrentaría una responsabilidad acumulada de USD $50.000 millones.

La empresa sostiene que Minnesota aprobó una prohibición amplia basada en el contenido de la expresión. En su presentación, describe la medida como un intento torpe de prohibir la llamada nudificación, término utilizado para referirse a herramientas que simulan desnudez en fotografías de personas.

El argumento central de xAI es que la ley excede la finalidad de combatir imágenes íntimas no consensuadas. La compañía afirma que el estatuto también podría abarcar usos protegidos constitucionalmente de las herramientas de edición y creación visual.

Por esa razón, xAI pidió a un tribunal federal que anule la ley y suspenda su aplicación. La empresa busca obtener ese alivio antes de que la norma entre en vigor, lo que convertiría al proceso en una prueba temprana para la regulación estatal de la IA generativa.

xAI advirtió que, si no recibe protección judicial, tendría que restringir de forma práctica varias funciones de edición de imágenes de Grok Imagine. La compañía no detalló en la información disponible cuáles serían exactamente esos cambios.

Protección de víctimas y límites constitucionales

Las imágenes íntimas no consensuadas pueden utilizar fotografías reales para fabricar escenas sexualizadas que la persona retratada nunca autorizó. La expansión de las herramientas generativas ha reducido las barreras técnicas para producir y distribuir ese material.

La senadora estatal Erin Maye Quade impulsó la legislación de Minnesota, que fue aprobada en abril. Sus esfuerzos surgieron después de conocer el caso de un hombre que recopiló fotografías de cuentas de redes sociales de mujeres para crear imágenes y videos sexualizados de más de 80 personas conocidas.

El fiscal general Keith Ellison rechazó el enfoque legal planteado por xAI. En una publicación, afirmó que la nudificación mediante IA roba la dignidad de las víctimas y puede causarles un daño inmenso en múltiples niveles.

El gobernador de Minnesota, Tim Walz, respondió de forma breve y desafiante al proceso judicial. Su mensaje fue: “Nos vemos en los tribunales, creep”. La frase refleja el tono político que acompaña la discusión sobre los abusos vinculados con estas herramientas.

La demanda no afirma que xAI permita deliberadamente la generación de desnudos o imágenes sexualizadas de personas sin consentimiento. Por el contrario, la compañía sostiene que prohíbe estrictamente ese contenido y que ha iniciado litigios contra usuarios que eludieron sus salvaguardas técnicas.

El conflicto plantea una pregunta compleja para los tribunales: cómo castigar la producción de material abusivo sin imponer restricciones demasiado amplias sobre herramientas que también pueden utilizarse para edición, creación artística o expresión visual legítima.

Presión legal sobre Grok Imagine

La demanda en Minnesota no constituye el único problema jurídico que enfrenta xAI por las capacidades de generación de imágenes de Grok. La empresa ya afronta acciones relacionadas con la producción de deepfakes explícitos no consensuados.

La ciudad de Baltimore demandó a xAI a principios de este año. La administración sostiene que Grok infringió leyes locales de protección al consumidor al producir ese tipo de imágenes, incluidas representaciones relacionadas con menores.

También existe una acción de clase propuesta por presuntas víctimas. El proceso sostiene que Grok fue utilizado para crear y distribuir material de abuso sexual infantil a partir de fotografías reales de las personas afectadas.

La acción colectiva plantea además que xAI retuvo información de las fuerzas del orden sobre las personas responsables. Se trata de alegaciones incluidas en el litigio, no de conclusiones definitivas sobre la responsabilidad de la empresa.

La compañía enfrenta igualmente investigaciones de reguladores en distintos países. Entre las autoridades mencionadas se encuentran Ofcom del Reino Unido, la Comisión Europea y la Comisión de Protección de Datos de Irlanda.

Estas pesquisas pueden aumentar la presión para que xAI demuestre que sus controles funcionan de manera consistente. También podrían impulsar exigencias distintas sobre moderación, cooperación con autoridades y protección de datos personales.

Antecedentes sobre las disputas de contenido generado por IA

xAI ya presentó un desafío constitucional contra una ley de California relacionada con contenido deepfake. En ese caso, un tribunal federal eliminó una disposición que restringía material generado por IA en contextos electorales, según la información citada por Quartz.

Ese antecedente no determina el resultado del proceso en Minnesota. Las dos leyes tienen objetivos y contextos diferentes, aunque ambas involucran el alcance de las restricciones estatales sobre contenido generado mediante inteligencia artificial.

La estrategia de xAI busca convertir la disputa en un debate sobre el lenguaje y el alcance de la norma. La empresa no centra su defensa en negar el daño de los deepfakes sexuales, sino en sostener que el remedio legislativo puede afectar usos legales de sus productos.

Minnesota, en cambio, defiende una intervención directa ante un riesgo que sus autoridades consideran grave. Para el estado, las sanciones deben ser suficientemente fuertes para disuadir a los desarrolladores de ofrecer servicios que faciliten la creación de material íntimo no autorizado.

El caso también puede definir quién debe asumir la responsabilidad cuando un usuario utiliza una plataforma para evadir sus filtros. La respuesta podría afectar a desarrolladores, proveedores de infraestructura y empresas que diseñan modelos multimodales.

La diferencia entre contenido generado por el usuario y funciones diseñadas por la plataforma será relevante en el litigio. El tribunal deberá evaluar si la ley regula una conducta perjudicial concreta o si alcanza la disponibilidad de una herramienta por su potencial uso indebido.

Un debate que se extenderá más allá de Minnesota

La entrada en vigor prevista para el 1 de agosto eleva la urgencia del proceso. Si el tribunal no suspende la aplicación, xAI tendría que adaptar Grok Imagine para reducir el riesgo de sanciones en Minnesota.

Las empresas de IA suelen responder a leyes estatales mediante bloqueos geográficos, filtros adicionales o limitaciones de producto. Cada alternativa puede reducir abusos, aunque también puede fragmentar la experiencia de los usuarios según su ubicación.

El caso será observado por otros estados que analizan medidas contra imágenes íntimas no consensuadas. Una decisión favorable a Minnesota podría fortalecer regulaciones similares, mientras que una victoria de xAI podría desalentar normas consideradas demasiado amplias.

Para las víctimas, el debate legal ocurre junto con una necesidad inmediata de prevención y reparación. La rapidez de las herramientas generativas permite crear material dañino antes de que una persona pueda detectarlo, denunciarlo o solicitar su eliminación.

Para los desarrolladores, el desafío consiste en mejorar los controles sin convertirlos en filtros imprecisos que bloqueen usos legítimos. La demanda muestra que las políticas internas de una empresa pueden no ser suficientes cuando los legisladores consideran que el diseño del producto facilita abusos.

El resultado de la disputa entre xAI y Minnesota podría convertirse en una referencia para el equilibrio entre innovación tecnológica, libertad de expresión y protección frente a la explotación digital. Mientras el caso avanza, Grok enfrenta una presión legal creciente en Estados Unidos y Europa.

Imagen original de DiarioBitcoin, creada con inteligencia artificial, de uso libre, licenciada bajo Dominio Público.

Este artículo fue escrito por un redactor de contenido de IA.

 


ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín

Artículos Relacionados