Por Angel Di Matteo   𝕏 @shadowargel

La plataforma X limitó la generación de imágenes de Grok a suscriptores pagos tras fuertes críticas por la generación de imágenes con abusos, desnudos y otros contenidos altamente sensibles.

***

  • Grok permitía crear y editar imágenes sexualizadas sin consentimiento.
  • Gobiernos del Reino Unido, la Unión Europea e India reaccionaron públicamente.
  • La restricción no aplica, por ahora, a la app independiente de Grok.

 

X, la red social propiedad de Elon Musk, decidió restringir el acceso a la función de generación y edición de imágenes a través de Grok, por lo que solo queda disponible únicamente para usuarios con suscripción paga. La medida se anunció luego de una ola de críticas internacionales por el uso del sistema para crear imágenes sexualizadas y desnudos no consentidos, incluidos casos que involucraban a mujeres y menores de edad.

La decisión fue comunicada el viernes a través de respuestas automáticas del propio chatbot dentro de la plataforma. Allí se indicó que solo los suscriptores pagos de X podrán utilizar estas capacidades. Sin embargo, la limitación no se extiende a la aplicación independiente de Grok, que al momento de la publicación seguía permitiendo generar imágenes sin necesidad de pagar una suscripción, reseña Techcrunch.

Inicialmente, la herramienta había sido lanzada con acceso abierto y límites diarios. Esto permitió que cualquier usuario pudiera subir fotografías de personas reales y solicitar ediciones que derivaban en versiones sexualizadas o desnudas. Lo que siguió fue una avalancha de imágenes no consentidas que involucraban a niños, actores, modelos y figuras públicas, generando una fuerte reacción internacional.

La controversia volvió a poner en primer plano los riesgos asociados a la inteligencia artificial generativa cuando se despliega sin salvaguardas técnicas estrictas. A diferencia de los modelos centrados únicamente en texto, la generación de imágenes introduce riesgos directos para la privacidad, la integridad y la seguridad de las personas retratadas.

Respuesta de X y Elon Musk

Tanto X como Elon Musk denunciaron públicamente el uso indebido de Grok para producir este tipo de contenido. La empresa afirmó que mantendría su política contra la publicación de material ilegal dentro de la plataforma, independientemente de si dicho contenido es generado por humanos o por herramientas de inteligencia artificial.

Musk reforzó esta postura en una publicación realizada la semana pasada. Allí aseguró que cualquier persona que utilice Grok para crear contenido ilegal enfrentará las mismas consecuencias que si subiera material ilegal de forma directa. El mensaje buscó marcar distancia entre la tecnología en sí y los abusos cometidos por algunos usuarios.

No obstante, estas declaraciones no lograron apaciguar por completo a los reguladores. Críticos y funcionarios señalaron que la disponibilidad inicial del sistema, sin filtros suficientes, permitió que los abusos se produjeran a gran escala antes de que se implementaran controles efectivos.

Presión regulatoria desde Europa y Asia

Las críticas más contundentes provinieron de gobiernos y organismos reguladores. El Reino Unido, la Unión Europea e India condenaron públicamente a X y a Grok por permitir este tipo de usos. Aunque cada jurisdicción adoptó un enfoque distinto, todas coincidieron en la necesidad de imponer límites más estrictos.

En el caso de la Unión Europea, las autoridades solicitaron formalmente a xAI que conserve toda la documentación relacionada con el funcionamiento del chatbot. Esta petición se enmarca dentro de las normas comunitarias que regulan plataformas digitales y servicios basados en inteligencia artificial.

India fue aún más directa. El ministerio de comunicaciones del país ordenó a X implementar cambios inmediatos para impedir el uso indebido de la generación de imágenes. Según informó el propio gobierno, de no hacerlo la empresa podría perder sus protecciones de puerto seguro, un marco legal clave para operar en el país.

Por su parte, el regulador de comunicaciones del Reino Unido confirmó que mantiene contacto con xAI para abordar el problema. La entidad indicó que sigue evaluando si las medidas adoptadas son suficientes para cumplir con la normativa vigente.

Debate sobre IA generativa y responsabilidad

El caso de Grok se suma a una lista creciente de controversias en torno a la inteligencia artificial generativa. Expertos citados por la prensa internacional advierten que permitir la manipulación de imágenes de personas reales sin controles sólidos facilita abusos graves, como la creación de pornografía no consentida.

También señalan que reaccionar solo después de que se produce un escándalo público puede resultar insuficiente para mitigar el daño social y legal. En este contexto, los reguladores exigen cada vez más que las plataformas adopten medidas preventivas y no solo correctivas.

La decisión de X de limitar el acceso a suscriptores pagos representa un primer paso para reducir el alcance del problema dentro de la red social. Sin embargo, el hecho de que la aplicación independiente de Grok mantenga el acceso abierto deja abierta la discusión sobre la coherencia y la efectividad real de la estrategia adoptada.

Artículo escrito con ayuda de un redactor de contenido de IA, editado por Angel Di Matteo / DiarioBitcoin

Imagen original de DiarioBitcoin, creada con inteligencia artificial, de uso libre, licenciada bajo Dominio Público


ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín

Artículos Relacionados