Por Canuto  

Una investigación revela cómo cuentas con avatares generados por IA simulan ser pequeños negocios de mujeres negras y otras personas marginadas para vender productos baratos de dropshipping con historias diseñadas para provocar culpa, empatía y compras impulsivas.

***

  • Cuentas recientes usan mujeres negras falsas generadas por IA para vender hebillas, bolsos y prendas que también aparecen en tiendas de moda rápida.
  • Investigadores describen la táctica como “cebo de empatía” y advierten que algunas redes detectan hasta 100 cuentas similares al día.
  • Expertas en comunicación y filosofía califican el fenómeno como blackface digital por explotar identidades raciales con fines económicos.

 

La inteligencia artificial (IA) generativa ya no solo produce imágenes virales o videos de entretenimiento. También impulsa una nueva capa de estafas minoristas en redes sociales, donde personajes falsos apelan a la solidaridad racial, la culpa y la empatía para vender productos fabricados en masa.

El caso gira en torno a cuentas que presentan supuestos pequeños negocios de personas marginadas. En realidad, muchos de esos perfiles parecen usar avatares de IA para promocionar mercancía de dropshipping, con historias casi idénticas y productos disponibles a menor precio en tiendas de moda rápida.

Un reportaje de The Verge documentó decenas de cuentas activas en TikTok, Instagram y Facebook. Varias presentan mujeres negras generadas por IA que lloran, dicen tener pocas ventas y piden apoyo para salvar negocios que, según la evidencia reunida, no existen como emprendimientos artesanales reales.

Aliyah, la vendedora que no existe

Uno de los ejemplos centrales es Aliyah, una mujer negra de piel clara con ropa de estilo country-western. En un video publicado en marzo, aparece llorando frente a la cámara mientras intenta vender hebillas metálicas que supuestamente hizo a mano.

El texto sobre el video dice: “Incluso como mujer negra, tengo más fe en que las mujeres blancas se quedarán 13 segundos en este video para salvar mi negocio de hebillas de cinturón”. La escena muestra a Aliyah secándose una lágrima, en un intento claro de provocar una reacción emocional rápida.

Pero Aliyah no es real. Sus productos tampoco parecen artesanales. Hebillas idénticas, con diseño de girasol e incluso una hoja desmontable integrada, aparecen en Shein por alrededor de USD $9, mientras las cuentas vinculadas a estos videos las ofrecen por cerca de USD $40.

Las señales de IA aparecen al mirar con atención. La voz suena robótica y no coincide con la expresión triste del rostro. En otro clip, el personaje cose un cinturón en una zona donde normalmente no habría costura. Al secarse una lágrima, el rastro líquido desaparece junto con el movimiento de la mano.

También hay patrones repetidos. Cuentas como Aliyahsbuckles y otras asociadas a personajes como Amaya comparten fondos, mesas, carretes de cordel y escenas casi iguales. La repetición sugiere plantillas de video reutilizadas con pequeñas variaciones para cambiar el producto o la identidad del avatar.

El negocio detrás del “cebo de empatía”

Jeremy Carrasco, investigador de medios generados por IA y director de Riddance.ai, describió el fenómeno como “enorme”. Su equipo encuentra hasta 100 cuentas al día que intentan vender productos mediante avatares generados por inteligencia artificial.

Carrasco usa una expresión precisa para la táctica: “cebo de empatía”. La fórmula combina un producto popular de dropshipping con una historia de vulnerabilidad, lucha económica o discriminación. El objetivo es que el usuario no piense demasiado y quiera ayudar comprando.

La mayoría de las cuentas detectadas surgió en los últimos dos meses. Sus historias hablan de pequeños negocios propiedad de personas marginadas que no logran vender. Los guiones cambian poco entre sí, aunque los personajes pueden ser mujeres negras, nativas americanas, hispanas o blancas.

Según la investigación, los avatares de mujeres negras concentran algunas de las mayores interacciones. La cuenta de Aliyah suma 40.000 seguidores. Su video más popular alcanzó 6,5 millones de visualizaciones, 814.000 me gusta y casi 30.000 comentarios.

Muchos usuarios sí identifican los videos como IA. Sin embargo, otros comentan para impulsar la visibilidad del supuesto negocio. En plataformas de video corto, esa interacción ya puede alimentar el algoritmo, incluso si la persona nunca llega a verificar quién vende realmente el producto.

Compradores reales ante negocios falsos

India Cater-Campbell, una verdadera empresaria negra que trabaja en abrir una cafetería en Seattle, fue una de las personas que comentó con intención de apoyar a Aliyah. Dijo que quería respaldar a una empresaria negra independiente y que sintió solidaridad porque ella misma intenta iniciar un negocio.

Cater-Campbell no llegó a comprar. No encontró de inmediato el enlace a la tienda y siguió desplazándose por la aplicación. Esa distracción la salvó de una compra impulsiva, pero el caso muestra lo eficaz que puede ser el engaño cuando se apoya en identidad y emoción.

Otras personas sí cayeron. Gizelle Bryant, de The Real Housewives of Potomac, contó en su podcast Reasonably Shady que compró dos bolsos de crochet tras ver un video donde un niño negro generado por IA decía que niños blancos lo acosaban por tejer.

Bryant dijo que quiso ayudar al “niñito negro” a alcanzar su meta. También afirmó que otras celebridades comentaban el video y mencionó a Viola Davis. El episodio muestra cómo una narrativa fabricada puede circular incluso entre figuras públicas acostumbradas a interactuar con contenido viral.

La trampa no depende solo de la calidad técnica. Depende de la velocidad. Los usuarios de videos cortos consumen contenido en segundos, sin tiempo para investigar enlaces, comparar precios o detectar incoherencias visuales. Esa dinámica favorece a quienes automatizan campañas engañosas.

Blackface digital, identidad y lucro

La investigadora Cienna Davis, de la Universidad de Pensilvania, calificó esta práctica como una forma de blackface digital. Definió el fenómeno como el uso de internet y tecnologías digitales por parte de personas no negras para imitar expresiones culturales negras con fines personales, económicos o políticos.

Davis vincula el concepto con el legado del blackface en espectáculos de juglares y con la historia de la esclavitud. En este caso, los videos imitan una idea reconocible de la lucha negra para extraer valor económico de esa representación.

Tempest M. Henning, profesora asistente de filosofía en la Universidad Fisk, coincide en que el fenómeno puede considerarse blackface digital incluso sin confirmar la identidad racial de quienes manejan las cuentas. Para Henning, el blackface incluye representaciones caricaturescas de personas negras, sin importar necesariamente quién las produzca.

Henning señaló que nombres como Aliyah o Amaya están codificados como negros, pero que fuera del avatar no hay una negritud auténtica identificable. La repetición de los mismos guiones entre identidades raciales distintas aplana esas identidades y las convierte en recursos intercambiables para vender.

En una escena atribuida a Amaya, una mujer blanca arroja café sobre hebillas expuestas en una feria. Una versión similar aparece en la cuenta ChubbyKnots, pero esta vez con una niña negra y un cárdigan de mariposa tejido a crochet. La estructura emocional se mantiene, solo cambia el producto.

Henning interpretó esas escenas como apelaciones a la señalización de virtud. El espectador recibe una invitación implícita a demostrar que no pertenece al grupo que humilla o ignora al supuesto emprendedor. La compra se convierte entonces en un gesto moral, aunque el negocio pueda ser falso.

Algoritmos, herramientas de IA y fallas de moderación

El fenómeno también explota la personalización algorítmica. Carrasco explicó que los sistemas de recomendación pueden mostrar avatares que coinciden con rasgos demográficos o intereses inferidos de cada usuario. Así, una mujer negra podría recibir más personajes negros generados por IA en su feed.

Detectar estos videos exige alfabetización mediática. Los clips rara vez muestran al personaje por más de pocos segundos. Herramientas como Seedance 2.0, Midjourney y la discontinuada Sora 2 de OpenAI no pueden crear clips largos sin introducir errores visibles.

Otras pistas incluyen cambios bruscos de iluminación cuando aparece el producto, manos blancas sosteniendo artículos supuestamente hechos por el avatar y emociones faciales que no coinciden con la voz. Aun así, esos detalles requieren atención, algo que las plataformas de desplazamiento infinito desalientan.

La producción de estos anuncios ya se enseña en canales y foros especializados. Los tutoriales prometen campañas sin muestras físicas, sin pagar influencers y sin escribir guiones originales. Herramientas como ChatGPT y Gemini sirven para extraer guiones de videos reales y generar variaciones.

Luego, los operadores crean fotos y fondos falsos, inspirados en influencers reales, y los importan en aplicaciones como Kling 2.0 y Maxfusion. Algunos modelos permiten cargar videos de influencers verdaderos y reemplazar a la persona por un avatar de IA, copiando guion, ambiente y estructura.

Para Davis, las plataformas necesitan mejores sistemas de detección y etiquetado de IA, auditorías de sesgo y canales claros de denuncia. Carrasco también pidió mayor transparencia en las cuentas, con etiquetas visibles que no obliguen al usuario a buscar información adicional.

El problema de fondo es que las redes tienen incentivos para maximizar interacción, no necesariamente veracidad. Mientras los videos consigan atención, comentarios y ventas, los estafadores seguirán usando avatares cada vez más convincentes para convertir solidaridad real en ingresos privados.

Imagen original de DiarioBitcoin, creada con inteligencia artificial, de uso libre, licenciada bajo Dominio Público

Este artículo fue escrito por un redactor de contenido de IA

 


ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín

Artículos Relacionados