Por Canuto  

Apple retiró 19 aplicaciones vinculadas a una red que, según una investigación de WIRED, disimulaba herramientas para generar deepfakes sexuales detrás de servicios de IA aparentemente inocuos. El caso expone cómo el contenido remoto y los anuncios podían activar funciones ocultas después de que una app superara la revisión de una tienda.
***

  • La investigación identificó más de 400 aplicaciones y dominios conectados, con funciones que podían generar imágenes y videos sexuales explícitos usando fotos de personas reales.
  • En septiembre de 2026, los investigadores encontraron 27 apps relacionadas en Google Play, que acumulaban más de 350.000 descargas.
  • Apple eliminó 19 aplicaciones y actualizó sus directrices, pero reconoció que suspendió decenas de miles de apps por tácticas similares de señuelo y cambio.

Apple retiró 19 apps que escondían herramientas de deepfakes sexuales

Apple eliminó 19 aplicaciones de su tienda después de que una investigación de WIRED expusiera una red que ocultaba herramientas para crear imágenes y videos sexualmente explícitos con fotografías de personas reales. Las apps se presentaban con funciones corrientes de inteligencia artificial, como retratos de mascotas, lecciones de idiomas o entrenamiento físico, pero algunas podían mostrar servicios de deepfake según las condiciones de acceso.

El hallazgo va más allá de una aplicación que infringe reglas de contenido: describe un sistema que habría cambiado lo que mostraba a cada usuario mediante servidores remotos. La red incluía más de 400 aplicaciones y dominios web conectados, y también alcanzaba a Google Play, según la investigación publicada el 2 de noviembre.

Una apariencia inocua ocultaba otro servicio

Las aplicaciones no necesariamente mostraban sus herramientas problemáticas a toda persona que las instalaba. Según la investigación de WIRED, después de la descarga se comunicaban con servidores remotos y enviaban datos como el idioma del usuario, la fuente de referencia y un identificador único.

Con esa información, el servidor podía decidir si mantenía activa la función anunciada o dirigía al usuario a un sitio web distinto, donde encontraba generadores de deepfakes explícitos. Así, la misma aplicación podía parecer una herramienta inofensiva durante una revisión o para una descarga ordinaria, y revelar otra función bajo condiciones específicas.

Uno de los posibles desencadenantes era llegar a la aplicación tras pulsar un anuncio en Facebook o Instagram. Los investigadores rastrearon miles de anuncios que promocionaban deepfakes sexualmente abusivos hasta aplicaciones distribuidas mediante las tiendas de Apple y Google, aunque la investigación no precisa que todos los anuncios llevaran a cada aplicación de la red.

Viefur ilustra el contraste: se presentaba como un generador de retratos de mascotas con IA, capaz de convertir imágenes de animales en personajes de apariencia humana. Sin embargo, los investigadores encontraron tras esa interfaz acceso a herramientas que podían colocar personas en escenarios sexualmente explícitos y violentos, un uso que transformaba una app de apariencia lúdica en una vía para material abusivo.

Señales de una operación coordinada

Los investigadores encontraron un paquete de JavaScript con referencias a cientos de aplicaciones y dominios, además de claves de cifrado y rastreadores publicitarios. La presencia de componentes técnicos compartidos apuntaba a una infraestructura coordinada, en vez de una suma de desarrolladores independientes que hubieran creado productos parecidos por separado.

El alcance de la red tampoco se limitaba a la tienda de Apple. En septiembre de 2026, los investigadores identificaron 27 aplicaciones relacionadas en Google Play que, en conjunto, habían acumulado más de 350.000 descargas.

Muchas de esas apps aparecían calificadas como aptas para todas las edades, pese a las capacidades que la investigación vinculó con la red. Ese dato no demuestra por sí solo qué contenido vio cada usuario ni cuántas personas utilizaron las herramientas ocultas, pero sí muestra que la distribución de las aplicaciones podía alcanzar a una audiencia amplia.

Los investigadores también detectaron conexiones técnicas con desarrolladores de habla china y con KeLing Technology Limited, una empresa registrada en Hong Kong. Los vínculos señalados incluían infraestructura de alojamiento, código e información de contacto; aun así, la investigación no estableció de manera concluyente quién controlaba toda la red.

La revisión inicial no evitó cambios posteriores

Apple retiró 19 aplicaciones, incluida Viefur, después de que periodistas contactaran a la compañía y compartieran detalles sobre la red. El portavoz Adam Dema afirmó que las apps cumplían las normas de la tienda durante sus revisiones iniciales.

Según la explicación de Apple, los desarrolladores cambiaron más tarde los sitios web que entregaban el contenido y reemplazaron material aprobado por pornografía. La empresa atribuyó así el problema a cambios posteriores a la aprobación, no a que las aplicaciones hubieran presentado desde el comienzo sus funciones explícitas durante la revisión.

El episodio pone de relieve una dificultad para las tiendas de aplicaciones: una revisión previa puede evaluar lo que una app muestra en ese momento, pero no necesariamente anticipar cada cambio en servicios alojados fuera de ella. Si el contenido llega desde un servidor externo, los desarrolladores pueden modificarlo sin enviar una nueva versión de la aplicación para otra aprobación.

Apple dijo que durante el año anterior había suspendido decenas de miles de aplicaciones por tácticas similares de señuelo y cambio. La cifra muestra que la compañía ya había detectado casos de esta clase, aunque la retirada de estas 19 apps y la existencia de una red más amplia evidencian que el problema no se resuelve únicamente con una inspección al momento de publicar.

Reglas más explícitas, pero un reto persistente

El 16 de octubre, Apple actualizó sus directrices para reforzar las restricciones sobre imágenes íntimas sin consentimiento y aplicaciones que esconden funciones durante la revisión. La directriz 1.2 ahora aborda explícitamente las imágenes íntimas generadas por IA sin consentimiento y exige a los desarrolladores prevenir o eliminar ese contenido.

La directriz 2.5.19, por su parte, aclara la prohibición de funciones ocultas, inactivas o no documentadas, incluidas aquellas que se activan después de la aprobación. Ambas modificaciones refuerzan políticas que ya existían, pero hacen más explícito que las capacidades ocultas y el contenido íntimo generado sin consentimiento infringen las reglas de la plataforma.

Las nuevas disposiciones no eliminan la brecha entre revisar una aplicación y controlar continuamente los servicios externos que esta consulta. Cuando el comportamiento depende de servidores remotos, la tienda debe detectar que cambió la experiencia ofrecida, incluso si el programa instalado no ha recibido una actualización convencional.

El caso también muestra por qué el nombre, la descripción y la interfaz de una app no bastan para evaluar qué hace en todas las circunstancias. La red aprovechaba anuncios, datos de referencia y contenido remoto para presentar distintas experiencias, mientras las tiendas intentan identificar cambios que podrían aparecer después de su revisión inicial.

Imagen original de DiarioBitcoin, creada con inteligencia artificial, de uso libre, licenciada bajo Dominio Público.

Este artículo fue escrito por un redactor de contenido de IA y revisado por un editor humano para garantizar calidad y precisión.


ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín

Artículos Relacionados