Por Canuto  

Apple hizo más explícitas las reglas de su tienda para combatir las aplicaciones de IA que generan imágenes íntimas sin consentimiento. Según la cobertura de The Verge, los desarrolladores deberán prevenir y retirar ese contenido; las directrices de Apple contemplan que una app puede ser retirada hasta que demuestre haber realizado las mejoras necesarias.
***

  • Apple exige que los desarrolladores prevengan y eliminen imágenes sexuales no consentidas.
  • Las aplicaciones que incorporen funciones para desnudar personas después de ser aprobadas podrían infringir las reglas contra el cambio de señuelo.
  • Apple prohíbe aplicaciones vinculadas con la trata de personas o la explotación de menores; la cobertura de la actualización también señala restricciones para la distribución alternativa.

Apple endurece las reglas de moderación

Apple actualizó las reglas de su App Store para abordar de forma más explícita las aplicaciones de IA que producen imágenes íntimas de personas sin su consentimiento. La modificación pone el foco en las llamadas herramientas para desnudar personas, que alteran imágenes con sistemas generativos y pueden crear representaciones sexuales falsas. Según informó The Verge, los desarrolladores deben actuar tanto para prevenir ese contenido como para retirarlo cuando aparezca en sus aplicaciones.

La actualización se enmarca en los requisitos de moderación que Apple aplica a las aplicaciones distribuidas en su tienda. La cobertura de The Verge indica que los desarrolladores deben prevenir y eliminar proactivamente las imágenes sexuales no consentidas, en lugar de limitarse a responder cuando una persona presenta una queja. La información disponible no detalla qué mecanismos específicos considera suficientes la compañía.

Apple puede retirar de la App Store a los desarrolladores que no implementen salvaguardas adecuadas o que no corrijan infracciones después de recibir una notificación, según la cobertura de la actualización. Las directrices de revisión de Apple señalan que una aplicación puede quedar retirada hasta que sus responsables demuestren que realizaron las mejoras necesarias. La empresa no anunció una cifra de aplicaciones afectadas ni un calendario específico para aplicar estas disposiciones.

El cambio también precisa la prohibición de aplicaciones que usan una estrategia de señuelo y sustitución, conocida como bait-and-switch. Según The Verge, una aplicación no puede obtener aprobación con unas funciones y luego añadir o modificar características para incorporar, entre otras cosas, la generación de desnudos. Así, la revisión no se limita a las funciones visibles al momento de la aprobación, sino que también alcanza cambios posteriores en el producto.

El contexto de las imágenes íntimas generadas con IA

La actualización llega después de las críticas dirigidas a Apple por el uso de Grok para producir imágenes sexualizadas sin consentimiento. A comienzos de este año, usuarios utilizaron la herramienta para crear imágenes falsas de personas, incluidos menores, según los antecedentes recogidos por The Verge. El episodio elevó la presión sobre las plataformas que distribuyen aplicaciones de IA y abrió cuestionamientos sobre la responsabilidad de las tiendas cuando una herramienta facilita abusos.

Apple no retiró X ni Grok de la App Store tras esa controversia, aunque comunicó a senadores que había amenazado con retirar Grok. NBC News informó que Apple detalló en una carta a senadores cómo respondió a la generación de imágenes sexualizadas falsas. La diferencia entre una advertencia y una eliminación efectiva es relevante: la actualización define con mayor claridad qué conducta puede provocar sanciones, pero no implica que Apple haya aplicado ahora una medida contra esas aplicaciones.

La compañía también enfrentó presión pública en junio, durante su conferencia WWDC, cuando manifestantes pidieron que eliminara Grok, X y las tecnologías para desnudar personas de su tienda. La protesta vinculó la discusión sobre herramientas concretas con una demanda más amplia de limitar el acceso a aplicaciones que generan imágenes íntimas falsas. El episodio muestra que el debate no se restringe a las normas escritas: también involucra decisiones de distribución y la expectativa de que Apple actúe ante riesgos conocidos.

En julio, el fiscal municipal de San Francisco ordenó a Apple retirar 13 aplicaciones para desnudar personas y dijo que la empresa cumplió con esa solicitud. Ese antecedente ofrece un ejemplo de intervención concreta anterior a la actualización de las reglas, aunque no permite concluir que esas 13 aplicaciones representaran todo el universo de herramientas de ese tipo. La nueva redacción plantea obligaciones generales para los desarrolladores, en lugar de limitar el asunto a una lista de aplicaciones señaladas en una actuación local.

Alcance de las nuevas prohibiciones

Las reglas revisadas también establecen con mayor claridad que Apple prohíbe aplicaciones que faciliten la trata de personas o la explotación de menores. La cobertura de la actualización señala que esa prohibición se extiende a la distribución alternativa. Estas conductas son distintas de las infracciones vinculadas específicamente con imágenes íntimas no consentidas, aunque ambas quedan dentro de las restricciones sobre usos dañinos.

Para los desarrolladores, el texto plantea una exigencia de moderación continua: no basta con describir correctamente una aplicación durante su revisión inicial si luego cambian sus funciones o aparecen usos abusivos. Según las reglas descritas, deben prevenir el material prohibido, eliminarlo y responder a las notificaciones que señalen incumplimientos. La información difundida no especifica cómo verificará Apple cada salvaguarda ni qué proceso seguirá para determinar si una corrección resulta adecuada.

La prohibición de cambiar funciones después de la aprobación también aborda una dificultad particular de las aplicaciones que incorporan capacidades generativas. Una herramienta podría presentarse inicialmente con un propósito distinto y más adelante añadir opciones para alterar fotografías y producir desnudos; Apple identifica ese tipo de modificación como una posible infracción. La política no convierte toda edición de imágenes en una conducta prohibida: se centra en el contenido íntimo no consentido y en las funciones que facilitan producirlo.

La actualización establece con más detalle las condiciones bajo las cuales Apple puede intervenir, pero la aplicación práctica dependerá de las salvaguardas que desplieguen los desarrolladores y de la respuesta de la empresa ante incumplimientos. El antecedente de Grok, las protestas en WWDC y la orden municipal de San Francisco explican por qué el tema ganó visibilidad, sin demostrar que una sola regla pueda impedir todos los abusos. La señal central es que Apple vincula de manera explícita la permanencia en su ecosistema con la prevención y retirada de imágenes íntimas no consentidas.

Imagen original de DiarioBitcoin, creada con inteligencia artificial, de uso libre, licenciada bajo Dominio Público.

Este artículo fue escrito por un redactor de contenido de IA y revisado por un editor humano para garantizar calidad y precisión.


ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín

Artículos Relacionados