Por Canuto  

San Francisco exigió a Apple y Google retirar de sus tiendas decenas de aplicaciones capaces de crear imágenes íntimas falsas sin consentimiento. Las autoridades advierten que ambas compañías podrían enfrentar sanciones civiles por continuar procesando pagos y hospedando estos servicios.
***

  • La ciudad de San Francisco notificó a Apple y Google que deben eliminar aplicaciones de “nudificación” de sus tiendas.
  • La oficina del fiscal David Chiu afirma que ambas empresas fueron alertadas durante casi un año sobre estas aplicaciones y sus pagos.
  • Las compañías podrían enfrentar sanciones civiles bajo las leyes de California contra la pornografía deepfake no consensuada.

 

La ciudad de San Francisco ordenó a Apple y Google retirar de sus tiendas de aplicaciones docenas de programas conocidos como aplicaciones de “nudificación”. Estas herramientas pueden alterar digitalmente una imagen para simular que una persona aparece sin ropa.

La medida coloca a dos de las mayores plataformas tecnológicas del mundo ante un nuevo reclamo sobre los límites de la inteligencia artificial. El caso también reabre el debate sobre la responsabilidad de las empresas que distribuyen software, procesan pagos y recomiendan aplicaciones a sus usuarios.

Según informó TechCrunch, las cartas fueron enviadas por la oficina del fiscal de la ciudad de San Francisco, David Chiu. Los documentos advierten que Apple y Google podrían enfrentar sanciones civiles por infringir la legislación vigente en California.

La ley estatal criminaliza cualquier actividad que “facilite intencionalmente” o “ayude o fomente de manera imprudente” la creación de pornografía deepfake no consensuada. En este contexto, las autoridades consideran relevante el papel de las plataformas que mantienen disponibles las aplicaciones y permiten cobrar por sus servicios.

California aprobó además, en 2025, una norma que permite a las víctimas emprender acciones civiles contra quienes faciliten la creación o distribución de este tipo de material. La regulación amplía las posibles consecuencias para compañías que obtengan ingresos mediante herramientas vinculadas con imágenes íntimas falsas.

Las aplicaciones de nudificación no necesitan necesariamente fotografías privadas para operar. El contenido de la noticia señala que cualquier persona cuya imagen esté disponible públicamente podría convertirse en objetivo de estas prácticas.

Advertencias, pagos y posibles sanciones

David Chiu acusó a Apple y Google de beneficiarse de aplicaciones que explotan a mujeres y niñas mediante la generación de deepfakes íntimos no consensuados. El fiscal sostuvo que ambas empresas tienen la responsabilidad de actuar de manera proactiva y vigilante para prevenir el abuso sexual.

“Apple y Google están beneficiándose de aplicaciones que explotan a mujeres y niñas generando deepfakes íntimos no consensuados”, afirmó Chiu en un comunicado enviado por correo electrónico a TechCrunch. También dijo que las compañías deben impedir el abuso, incluso cuando algunas aplicaciones problemáticas hayan sido retiradas.

Las cartas señalan que Apple y Google recibieron notificaciones sobre su papel en el procesamiento de pagos por compras ilegales durante casi un año. A pesar de esas advertencias, la oficina del fiscal sostiene que las empresas continuaron hospedando y beneficiándose de programas relacionados con estos servicios.

El Proyecto de Transparencia Tecnológica publicó informes en enero y abril, además de enviar cartas a las dos compañías. Esos documentos identificaron docenas de aplicaciones que vendían deepfakes de imágenes íntimas no consensuadas a cambio de pagos procesados por Apple y Google.

El informe de abril acusó a ambas empresas de haber dirigido intencionalmente a usuarios hacia esas aplicaciones. El documento también las describió como participantes clave en la difusión de herramientas de IA capaces de convertir imágenes de personas reales en representaciones sexualizadas.

Chiu dijo a Wired que Apple y Google probablemente habían obtenido millones de dólares en tarifas relacionadas con aplicaciones que ofrecían estos servicios. Las cartas conceden a ambas empresas un plazo de 28 días para comunicarse con la ciudad y responder a las acusaciones.

El alcance del problema de los deepfakes

Los deepfakes son contenidos audiovisuales manipulados mediante herramientas digitales, incluida la inteligencia artificial. Aunque pueden utilizarse en contextos humorísticos o creativos, su uso para fabricar imágenes íntimas sin autorización plantea riesgos directos para la privacidad, la reputación y la seguridad de las víctimas.

La pornografía deepfake ha afectado en gran medida a celebridades femeninas, cuyas fotografías circulan ampliamente en internet. Sin embargo, las aplicaciones de nudificación amplían el alcance del problema porque permiten atacar a cualquier persona cuya imagen pública pueda descargarse o copiarse.

La diferencia entre una edición digital ordinaria y un deepfake íntimo no consensuado depende del contexto y del consentimiento. Una persona puede autorizar el uso de su fotografía para una finalidad concreta sin aceptar que esa imagen se transforme en material sexual.

El caso también muestra cómo las tiendas de aplicaciones funcionan como puntos centrales de distribución. Además de ofrecer visibilidad, estas plataformas pueden facilitar actualizaciones, sistemas de pago y mecanismos de recomendación que incrementan el alcance comercial de un programa.

Para las autoridades, esa infraestructura puede convertir a las plataformas en algo más que simples espacios neutrales de alojamiento. La legislación de California busca determinar cuándo una empresa que presta servicios tecnológicos facilita de forma consciente o imprudente una conducta ilegal.

Apple y Google fueron contactadas para comentar las acusaciones, pero la información disponible no incluye sus respuestas. Por ahora, la oficina de Chiu espera que ambas compañías respondan dentro del plazo establecido y adopten medidas frente a las aplicaciones señaladas.

Un desafío para las plataformas tecnológicas

Las empresas de tecnología han enfrentado durante años reclamos sobre la moderación de contenidos dañinos. El desarrollo de herramientas de IA generativa complica la tarea, porque una aplicación puede presentarse como un editor de imágenes mientras sus funciones permiten crear material abusivo.

La controversia no se limita al contenido que una aplicación publica directamente. También incluye la manera en que el programa llega a los usuarios, cómo cobra por sus funciones y qué controles aplica la tienda antes de aceptar su distribución.

En este caso, las cartas de San Francisco cuestionan tanto el alojamiento de las aplicaciones como el procesamiento de sus pagos. Esa combinación podría aumentar la presión sobre Apple y Google, especialmente porque las autoridades afirman que recibieron advertencias repetidas.

La respuesta de las plataformas podría influir en futuros casos relacionados con inteligencia artificial. Si eliminan rápidamente las aplicaciones señaladas, podrían reducir su exposición inmediata, aunque también tendrían que explicar por qué permanecieron disponibles pese a los informes previos.

Si mantienen los programas en sus tiendas, la ciudad podría avanzar con reclamos civiles bajo las leyes estatales. El plazo de 28 días convierte la disputa en un proceso formal y ofrece a las compañías una oportunidad para presentar su posición.

El conflicto refleja una tensión central de la economía digital: las plataformas pueden obtener ingresos de herramientas populares sin controlar cada uso individual. Sin embargo, las autoridades de California sostienen que el conocimiento previo y la continuidad del servicio pueden modificar esa responsabilidad.

La decisión de San Francisco no resuelve por sí sola el problema de los deepfakes íntimos. Sí establece una señal política y legal clara: las tiendas de aplicaciones tendrán que demostrar mayor vigilancia frente a servicios de IA que puedan facilitar abusos contra personas reales.

Imagen original de DiarioBitcoin, creada con inteligencia artificial, de uso libre, licenciada bajo Dominio Público.

Este artículo fue escrito por un redactor de contenido de IA y revisado por un editor humano para garantizar calidad y precisión.


ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín

Artículos Relacionados