Por Canuto  

Un juez federal permitió que Minnesota mantenga vigente su prohibición contra las herramientas de inteligencia artificial capaces de fabricar imágenes desnudas de personas reales, mientras xAI prepara una apelación que podría definir el alcance de la regulación estatal sobre la IA generativa.
***

  • El juez Donovan Frank rechazó la solicitud de xAI para suspender la ley de Minnesota mientras continúa el litigio.
  • La norma permite multas civiles de hasta USD $500.000 por cada infracción y no exige demostrar que el proveedor conocía la infracción.
  • El caso podría llegar al 8.º Circuito y establecer nuevos límites para la responsabilidad de las empresas de IA.

Un juez federal de Estados Unidos permitió que Minnesota aplique su prohibición contra las herramientas de inteligencia artificial capaces de convertir fotografías de personas identificables en imágenes desnudas. La decisión representa un revés inicial para xAI, la empresa de Elon Musk, que buscaba suspender la ley mientras impugna su constitucionalidad por motivos relacionados con la libertad de expresión.

El fallo autoriza al estado a comenzar a imponer sanciones civiles de hasta USD $500.000 por cada infracción cubierta por la norma. La disputa también coloca bajo examen una cuestión central para la industria: si un proveedor puede responder legalmente por el resultado de su tecnología incluso cuando no sabía que un usuario había generado una imagen ilícita.

El tribunal mantiene vigente la prohibición

El juez federal de distrito Donovan Frank rechazó la solicitud de xAI para obtener una orden judicial preliminar, una medida que habría detenido temporalmente la aplicación de la ley hasta que terminara el proceso. La empresa también había pedido una orden de restricción temporal, pero el magistrado la rechazó el 31 de julio, un día antes de la entrada en vigor del estatuto.

Para resolver la petición, Frank evaluó el llamado balance de perjuicios y concluyó que el interés público favorecía de manera abrumadora a Minnesota. En un memorando citado por CBS Minnesota, el juez describió la norma como un estatuto civil destinado a proteger al público de un daño que consideró indiscutible, derivado del uso de tecnología de desnudización con IA.

El magistrado también señaló que la ley había sido aprobada de forma democrática y casi por unanimidad, aunque reconoció que las preguntas sobre la Primera Enmienda seguían siendo complejas. Según su razonamiento, la novedad de esta tecnología dificulta anticipar cómo deben resolverse todos los conflictos constitucionales, por lo que el caso tendrá que desarrollarse antes de alcanzar una conclusión definitiva.

La decisión no determina que la ley sea constitucional de manera permanente ni resuelve el fondo de la demanda presentada por xAI. Su efecto inmediato consiste en permitir que el estatuto opere mientras continúa el litigio, de modo que la empresa enfrenta ahora la posibilidad de sanciones si mantiene disponibles funciones prohibidas para usuarios ubicados en Minnesota.

La demora de xAI pesó en la decisión

La legislatura de Minnesota aprobó la medida durante la primavera y el gobernador la convirtió en ley, pero xAI no presentó su demanda hasta el 27 de julio. La compañía actuó aproximadamente tres meses después de la aprobación y apenas unos días antes de la fecha prevista para comenzar la aplicación del estatuto, una secuencia que debilitó su argumento sobre un daño inminente.

Dos días después de presentar la demanda, xAI solicitó una orden de restricción temporal para impedir que Minnesota ejecutara la norma. Frank rechazó esa petición el 31 de julio y posteriormente también negó la orden judicial preliminar, al considerar que la conducta procesal de la empresa no demostraba la urgencia que normalmente exige una intervención extraordinaria.

“Si xAI realmente temiera un daño irreparable, el Tribunal no duda de que habría actuado con mayor rapidez para presentar esta demanda y solicitar medidas cautelares”, escribió Frank, según el memorando citado en el reporte. El argumento refleja una preocupación práctica del tribunal: una empresa que anticipa una catástrofe regulatoria suele acudir a la justicia antes de que llegue el día de cumplimiento, no en la víspera.

La compañía ha indicado que llevará la disputa ante el Tribunal de Apelaciones del 8.º Circuito, por lo que la batalla todavía está lejos de terminar. En argumentos anteriores, sus abogados plantearon como alternativa suspender determinadas funciones para los usuarios de Minnesota, en lugar de exponer a la empresa a multas que podrían acumularse rápidamente por cada infracción.

Qué prohíbe la ley HF 1606

El estatuto, identificado como HF 1606, prohíbe que un proveedor permita a sus usuarios generar imágenes realistas que agreguen partes íntimas ausentes en la fotografía original de una persona identificable. La norma también impide que el proveedor produzca ese tipo de material directamente en nombre de cualquier usuario, con lo que alcanza tanto la generación automatizada como ciertos servicios realizados bajo solicitud.

Cada violación puede derivar en una sanción civil de hasta USD $500.000, mientras que las personas representadas en las imágenes conservan la posibilidad de presentar demandas individuales por daños y perjuicios. El diseño de la norma convierte a la plataforma tecnológica en un posible responsable directo, en lugar de limitar la responsabilidad al usuario que solicita o distribuye el contenido.

Ese punto diferencia a Minnesota de otros enfoques mencionados en la disputa. La ley federal Take It Down Act y la estrategia adoptada por Texas en 2025 para abordar los deepfakes dependen de que el creador supiera que la imagen era no consentida, mientras que HF 1606 elimina por completo ese requisito de conocimiento para el proveedor.

Para xAI, la ausencia de una exigencia de intención o conocimiento es uno de los principales problemas constitucionales del estatuto. La empresa sostiene que podría recibir una sanción aunque no supiera que una imagen de desnudo había sido generada, una posibilidad que, a su juicio, amenaza la libertad de expresión y vuelve excesivamente amplia la responsabilidad de las plataformas.

El antecedente que impulsó la norma

La aprobación de HF 1606 ocurrió después de informes sobre un hombre que utilizó fotografías tomadas de redes sociales para fabricar imágenes sexuales de más de 80 mujeres que conocía. Ese episodio ayudó a convertir el uso de herramientas de desnudización en un asunto legislativo prioritario, al mostrar que fotografías disponibles públicamente podían transformarse en material íntimo falso sin autorización de las personas retratadas.

La Cámara de Representantes de Minnesota aprobó el proyecto con una votación de 132-1, mientras que el Senado lo aprobó por 65-0. La amplitud de esos resultados es uno de los elementos que Frank tomó en cuenta al valorar el interés público, aunque el respaldo político no elimina por sí mismo las preguntas constitucionales planteadas por xAI.

El fiscal general de Minnesota, Keith Ellison, defendió la norma y describió el fallo como una victoria para los residentes del estado. Ellison afirmó: “Estoy extremadamente orgulloso de defender esta ley y, con ella, la dignidad del pueblo de Minnesota”, y añadió que el estatuto continúa bloqueando productos como Grok Imagine para que no generen imágenes sexualizadas.

La discusión combina así dos objetivos regulatorios distintos, aunque relacionados: proteger a las personas frente a representaciones íntimas no consentidas y definir quién debe asumir el costo cuando una herramienta generativa produce ese material. El caso será observado por otros estados porque una decisión favorable a Minnesota podría alentar normas similares, mientras que una victoria de xAI podría limitar la capacidad estatal para imponer responsabilidad directa a los proveedores.

La escala de Grok Imagine aumenta la presión

La dimensión del caso creció después del lanzamiento de una nueva función de edición de imágenes asociada con Grok Imagine. Según un informe citado en el fallo, Grok produjo alrededor de 3 millones de imágenes sexualizadas durante los 11 días posteriores al lanzamiento, incluidas unas 23.000 que parecían representar a menores.

Estas cifras aparecen como parte del contexto presentado ante el tribunal y no equivalen, por sí solas, a una determinación judicial de que cada imagen violó la ley de Minnesota. Sin embargo, ayudan a explicar por qué el juez consideró que el estado enfrentaba un interés público relevante y por qué la posibilidad de daños a gran escala ocupa un lugar central en el expediente.

xAI ha respondido que tomó medidas contra parte del abuso relacionado con sus servicios. La empresa afirmó que suspendió 52.222 cuentas durante este año y presentó 73.604 informes ante el Centro Nacional para Niños Desaparecidos y Explotados, aunque esas acciones no resolvieron la objeción de Minnesota sobre la responsabilidad que puede surgir aun sin conocimiento previo del proveedor.

El siguiente paso será la revisión del 8.º Circuito, donde xAI intentará revertir la negativa a la medida cautelar. El resultado podría influir en el alcance de las leyes estatales sobre IA generativa, especialmente en aquellos casos donde los reguladores busquen sancionar el funcionamiento de una herramienta y no solamente la conducta deliberada de un usuario.

Mientras tanto, la prohibición de Minnesota permanece activa y la amenaza económica es concreta: hasta USD $500.000 por cada infracción, además de posibles demandas privadas. El conflicto entre xAI y el estado ya no se limita a Grok Imagine, porque plantea quién controla los riesgos de una tecnología capaz de fabricar contenido íntimo falso a una velocidad que supera la supervisión humana.

Imagen original de DiarioBitcoin, creada con inteligencia artificial, de uso libre, licenciada bajo Dominio Público.

Este artículo fue escrito por un redactor de contenido de IA y revisado por un editor humano para garantizar calidad y precisión.


ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín

Artículos Relacionados