Por Canuto Una investigación del Tech Transparency Project identificó cientos de anuncios que promocionaban aplicaciones capaces de sexualizar imágenes de menores, incluidas fotografías de adolescentes reales. Los hallazgos exponen fallas en la moderación de Meta, retrasos en las eliminaciones y dudas sobre los incentivos económicos detrás de su sistema publicitario.
***
- El Tech Transparency Project reportó 332 anuncios con material de abuso sexual infantil generado con IA en Facebook e Instagram.
- Varios anuncios utilizaron imágenes reales de menores, mientras Meta tardó días o semanas en retirar algunos contenidos denunciados.
- Los anuncios alcanzaron a más de 29.000 personas en la Unión Europea y 6.800 en Reino Unido, según la investigación.
Una investigación del Tech Transparency Project, TTP, puso bajo escrutinio el sistema de anuncios de Meta después de identificar 332 piezas publicitarias con material de abuso sexual infantil generado mediante inteligencia artificial. Los anuncios circularon en Facebook e Instagram y promocionaban principalmente aplicaciones desarrolladas en China, incluidas herramientas conocidas como nudify, capaces de alterar fotografías para representar desnudez o situaciones sexuales sin consentimiento. El hallazgo resulta especialmente grave porque varias imágenes partían de fotografías reales de menores disponibles en internet.
Entre las víctimas representadas figuraban una joven integrante de una familia real europea, una influencer de Instagram de 14 años y otra preadolescente cuya imagen aparecía en fotografías de archivo. La investigación señaló que los anuncios transformaron digitalmente esas fotografías en videos de carácter sexual explícito, aunque este artículo evita reproducir detalles gráficos para no revictimizar a las menores. El Departamento de Justicia de Estados Unidos ha aclarado que el material de abuso sexual infantil generado con IA puede ser tan dañino como el material que involucra abusos reales, informa Arstechnica.
Imágenes reales en anuncios de inteligencia artificial
La mayoría de los anuncios detectados por TTP promovía aplicaciones de inteligencia artificial fabricadas en China, pero el problema no se limitaba a contenido completamente sintético. Los investigadores vincularon varios anuncios con fotografías de niños reales que ya aparecían en perfiles públicos, lo que demuestra cómo una imagen cotidiana puede convertirse en material criminal mediante herramientas automatizadas. El riesgo afecta a familias, escuelas, clubes deportivos y creadores jóvenes que publican fotografías en redes sociales.
Los textos utilizados para atraer usuarios incluían promesas de acceso a más contenido y mensajes que presentaban la tecnología como una forma de cumplir deseos ocultos. Otro anuncio afirmaba que no existían restricciones y que todos los personajes eran personas reales, una frase que, de acuerdo con TTP, mostraba la intención de vender la posibilidad de manipular imágenes de individuos identificables. La publicidad no solo normalizaba el abuso, sino que convertía la vulnerabilidad de los menores en un producto comercial.
El Tech Transparency Project ya había señalado en agosto un lote anterior de 53 anuncios junto con Wired, tras lo cual Meta dijo que había implementado nuevos sistemas para detectar mejor la explotación infantil. Sin embargo, la nueva revisión encontró cientos de anuncios adicionales publicados después de ese anuncio de la empresa. Wired también identificó cientos de piezas relacionadas con contenido sexual explícito de adultos, presuntamente elaborado sin el consentimiento de las personas representadas.
La dimensión del caso se amplía porque las herramientas nudify no necesitan fotografías íntimas para producir daños. Una imagen tomada en un uniforme deportivo, durante una actividad escolar o en una publicación familiar puede convertirse en un montaje sexualizado que luego circula entre desconocidos. La Internet Watch Foundation advirtió que la IA está haciendo demasiado fácil crear imágenes realistas y criminales de abuso infantil, mientras las plataformas todavía deben impedir que esas aplicaciones encuentren espacios para promocionarse.
Retrasos y decisiones contradictorias de Meta
Meta retiró los anuncios señalados por TTP y Wired, pero la organización cuestionó la velocidad y la consistencia de las respuestas. Después de que TTP reportara más de 300 anuncios, la empresa eliminó rápidamente cerca de la mitad de las piezas de su biblioteca publicitaria archivada; aun así, muchos registros no fueron marcados como infracciones de explotación infantil hasta que los investigadores señalaron la discrepancia y Meta actualizó sus datos.
La organización sostuvo que esa omisión podría indicar una subestimación de los casos de abuso sexual infantil dentro de la plataforma. También afirmó que Meta continuó mostrando decenas de anuncios después de que se reportara el primer lote, incluida una pieza que usaba la imagen de una menor real. En otro caso, un anuncio denunciado el mismo día en que comenzó a circular pasó de cuatro impresiones a 330 antes de ser eliminado, porque la plataforma tardó varios días en actuar.
La revisión también expuso decisiones aparentemente contradictorias en anuncios casi idénticos. Meta eliminó una pieza que mostraba a una niña en una situación sexual explícita, pero decidió que otra con la misma imagen y el mismo texto no infringía sus normas publicitarias. En los reportes relacionados con personas menores de 18 años o posible explotación sexual, la empresa habría tardado al menos una semana en revisar varios casos y con frecuencia no tomó medidas.
Un portavoz de Meta dijo que la empresa no tolera las aplicaciones nudify ni ninguna forma de explotación infantil, ya sea real o generada por IA. La compañía atribuyó parte de los fallos a que algunos clips eran breves o estaban borrosos, y agregó que los anuncios señalados registraron en promedio menos de 200 impresiones y un gasto publicitario total inferior a USD $5.000. TTP respondió que, si el sistema de detección subestima el número de anuncios, también podría estar subestimando los ingresos obtenidos.
Presión regulatoria y modelo publicitario
Michelle Kuppersmith, directora ejecutiva de Campaign for Accountability, organización que dirige TTP, afirmó que el proceso de aprobación publicitaria de Meta debe ser cuestionado si no puede detectar material tan evidente antes de mostrarlo. Sus declaraciones llegan después de un acuerdo histórico por USD $18.000 millones que comprometió a Meta a introducir cambios para mejorar la seguridad infantil en sus plataformas. La preocupación central no es solamente la existencia de contenido ilegal, sino que pueda ser distribuido mediante un sistema comercial automatizado.
TTP también relacionó varios anuncios con tres socios revendedores de publicidad de Meta en China: GIMC, Meetsocial y BlueFocus. Según la investigación, esas empresas publicaron anuncios con el mismo contenido de abuso sexual infantil sin que los sistemas de Meta los detectaran, mientras otras piezas estaban conectadas con páginas de negocios que parecían fraudulentas o incumplían las reglas sobre comportamiento inauténtico.
Una de las páginas asociadas con un anuncio utilizaba el nombre de Kenny Maddie Regan y se presentaba como un negocio local, aunque no tenía publicaciones ni seguidores más allá de una fotografía de perfil. Otras páginas, identificadas como Lynn Nicole Brooks y Briflabremgles Nihendrimes, usaban la misma imagen de perfil y difundían piezas similares. TTP también señaló una página llamada Divine Productions, que afirmaba representar a la Iglesia de Jesucristo de los Santos de los Últimos Días y publicó un anuncio ilegal antes de que Meta la deshabilitara.
La investigación citó además un informe de Reuters según el cual Meta no siempre actúa de inmediato contra anuncios de revendedores chinos que infringen sus reglas. La explicación planteada es que la empresa depende de esos intermediarios para acceder a una parte del mercado publicitario chino, pese a que sus plataformas están prohibidas en China. Katie Paul, directora de TTP, advirtió que la demora permite que se produzcan daños mientras Meta continúa recibiendo dinero.
Los anuncios alcanzaron colectivamente a más de 29.000 personas en la Unión Europea y a 6.800 en Reino Unido, mientras cerca de 80% de las piezas se mostró en Estados Unidos y una proporción menor apareció en Australia. Los fiscales generales de Michigan y Florida dijeron que investigan los anuncios, y el senador Mark Warner envió una carta para exigir a Meta que pusiera fin a esas campañas. La empresa indicó que respondería a la misiva.
Australia también podría exigir explicaciones a Meta a través de su regulador de internet eSafety, que solicitó información a la compañía a nivel directivo. La intervención ocurre después de que Australia estableciera una edad mínima de 16 años para crear cuentas en redes sociales, una política que vuelve especialmente sensible cualquier evidencia de explotación infantil dentro de esas plataformas. El caso deja abierta una pregunta que trasciende la moderación automática: si una empresa revisa todos los anuncios antes de publicarlos, ¿qué nivel de responsabilidad tiene cuando el sistema falla repetidamente?
Imagen original de Unsplash.
Este artículo fue escrito por un redactor de contenido de IA y revisado por un editor humano para garantizar calidad y precisión.
ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.
Suscríbete a nuestro boletín
