Por Canuto  

Una red de videos políticos consiguió decenas de millones de vistas al combinar guiones generados por IA con actores reales contratados en plataformas de trabajos independientes. YouTube eliminó 20 canales después de investigaciones que expusieron cómo la operación podía evitar los detectores de medios sintéticos y difundir mensajes políticos engañosos.

***

  • YouTube eliminó 20 canales vinculados a una red que habría alcanzado 45 millones de vistas.
  • Actores contratados por Fiverr y Backstage recibían USD $26 por video y debían entregar el material en 24 horas.
  • La operación utilizaba guiones, miniaturas y sitios con señales de IA, pero colocaba personas reales frente a la cámara.

 

 

Una red de canales políticos en YouTube alcanzó 45 millones de vistas al combinar guiones generados por modelos de lenguaje con presentadores humanos contratados por encargo.

La estrategia expuso una limitación central de los sistemas actuales de moderación: una persona real leyendo un texto producido por inteligencia artificial (IA) no necesariamente activa los detectores diseñados para identificar videos sintéticos.

YouTube eliminó 20 canales relacionados con la operación, incluidos los 13 señalados en una investigación de Semafor y otros siete vinculados, según declaró la plataforma a ese medio. La compañía justificó la medida por incumplimientos de sus políticas contra el spam y las prácticas engañosas, no por una determinación pública de que cada afirmación política difundida fuera falsa.

Una producción industrial con rostro humano

El funcionamiento de la red mezclaba elementos automatizados con una intervención humana muy concreta. Los guiones, las miniaturas, los retratos usados en perfiles y los sitios web asociados mostraban características habituales de una cadena de producción basada en herramientas generativas, mientras los actores aparecían frente a la cámara para leer el material.

Riddance AI, una firma de inteligencia mediática que investigó la red en paralelo con Semafor, señaló que una presentación convincente y sostenida ante la cámara todavía resulta difícil para muchos modelos de video. Esa limitación habría creado una oportunidad comercial sencilla: utilizar un modelo de lenguaje para preparar el texto y pagar a una persona para convertirlo en una pieza aparentemente auténtica.

La diferencia es importante porque las plataformas suelen concentrar sus controles en la naturaleza del archivo audiovisual o en la semejanza sintética de las personas que aparecen en pantalla. YouTube etiqueta automáticamente ciertos videos generados con IA, incluso cuando los creadores no los identifican por iniciativa propia, pero el sistema no necesariamente reconoce que un presentador real está recitando un guion producido por una máquina.

En consecuencia, la red no necesitó modelos de frontera, técnicas avanzadas de clonación ni herramientas sofisticadas de falsificación facial. Le bastaron un modelo de lenguaje, una cuenta en una plataforma de contratación y trabajadores dispuestos a grabar desde sus propios espacios por una tarifa relativamente baja.

USD $26 por video y una red de canales

La tarifa de USD $26 por guion quedó documentada en anuncios de casting relacionados con la productora Virelox. Una de las convocatorias buscaba un portavoz profesional frente a la cámara para un canal de YouTube relacionado con noticias, mientras otro anuncio ofrecía el mismo pago por guion, entrega en 24 horas y el uso de cámara e iluminación proporcionadas por el propio actor.

Los trabajadores fueron reclutados mediante Fiverr y Backstage, plataformas donde también se contratan portavoces para productos cotidianos como termómetros para carne o dispositivos de limpieza de oídos. Frank George, uno de los participantes, explicó a Semafor a través del sistema de mensajería de Fiverr que recibió el dinero mediante un intermediario y que desconocía quién financiaba el trabajo.

George describió los videos como anuncios pagados y se definió como portavoz, no como periodista ni como integrante de una organización política. Cuando le solicitaron identificar al intermediario, respondió “Casgains”, un nombre que también aparece vinculado con la estructura empresarial y los canales investigados.

La investigación rastreó la red hasta Caleb Chan, graduado de la Universidad de Chicago y creador de Casgains Academy, un canal de finanzas en YouTube que después habría convertido la expansión de cuentas y la viralidad en un modelo de negocio. Chan cofundó Virelox, compañía que ofrece crear rápidamente cuentas de creadores en nombre de clientes, aunque negó que su empresa aceptara clientes políticos o utilizara presentadores sintéticos.

Mensajes políticos, repeticiones y audiencia real

Chan afirmó en abril que tenía 106 cuentas de YouTube operativas y que pretendía llegar a 300 en mayo; en otra publicación sostuvo que dirigía una red de más de 500 creadores fantasma capaces de producir miles de millones de vistas mensuales. Esas cifras corresponden a afirmaciones promocionales propias y no han sido auditadas, por lo que no equivalen a una medición independiente del tamaño real de la operación.

El empresario también describió lo que, según él, había aprendido sobre la clasificación de contenidos en la plataforma. Afirmó que publicar el mismo hashtag desde muchas cuentas en cuestión de minutos podía hacer que el algoritmo interpretara la actividad como una noticia de última hora, y aseguró haber probado el método nueve veces antes de concluir que fabricar noticias resultaba más efectivo que reportarlas.

Riddance analizó 622 transcripciones correspondientes a las distintas personalidades de la red y contabilizó las menciones de políticos junto con las afirmaciones asociadas. Los temas dominantes fueron la carga fiscal, los problemas presupuestarios y la supuesta salida de empresas de estados gobernados por demócratas, mientras el alcalde de Nueva York, Zohran Mamdani, apareció como la figura atacada con mayor frecuencia.

Los títulos solían mencionar a un político demócrata y atribuirle, mediante un verbo en mayúsculas, responsabilidad por una crisis económica o un escándalo. Sin embargo, muchas afirmaciones partían de reportajes reales y luego alteraban su encuadre, de modo que el título prometía una revelación que el video no sustentaba o incluso contradecía.

Uno de los videos de William Reports News presentaba a Mamdani supuestamente entrando en pánico por el cierre de hoteles Hilton, aunque la revisión del contenido no encontró esa afirmación y mostró un argumento prácticamente contrario. Otro video aseguraba que la gobernadora Kathy Hochul se había negado a aprobar la propuesta fiscal de Mamdani, pese a que la fuente indicó que Hochul la había respaldado.

Las señales de coordinación y la respuesta de YouTube

La coordinación entre los canales dejaba varias huellas visibles. Las diferentes personalidades usaban la misma melodía de piano ominosa, mientras una comparación de las transcripciones detectó 304 segmentos de guion compartidos entre los canales Omar y Julian US.

También aparecían inconsistencias operativas difíciles de explicar en una red supuestamente compuesta por creadores independientes. Algunas personalidades surgían en los canales de otras sin contexto, ciertos perfiles de Linktree dirigían al anfitrión equivocado y un actor pasó de interpretar una identidad anti-Trump a otra favorable a Trump en cuestión de semanas.

Los sitios web asociados dejaron de funcionar durante la tarde del 25 de agosto, después de que Semafor contactara a la empresa. La secuencia temporal no demuestra por sí sola quién ordenó desconectarlos, pero coincidió con el momento en que la operación quedó expuesta públicamente.

La decisión de YouTube también revela los límites de las categorías actuales de moderación. Al citar spam y prácticas engañosas, la plataforma eligió una herramienta relacionada con el volumen, la coordinación y la autenticidad de la red, en lugar de presentar una resolución pública sobre la veracidad de cada mensaje político.

Ese enfoque puede alcanzar a redes que publican grandes cantidades de contenido coordinado, pero también puede afectar a creadores sin rostro que nunca utilizaron inteligencia artificial. La plataforma ya había tomado medidas después de una investigación anterior sobre videos generados alrededor del supuesto colapso de estados gobernados por demócratas, y la respuesta volvió a producirse después de la publicación periodística, no como resultado visible de una detección preventiva.

El contenido continúa fuera de los canales originales

Eliminar los canales de origen no elimina necesariamente los videos que ya fueron descargados, recortados o redistribuidos. Riddance documentó docenas de cuentas de TikTok que compartían fragmentos de las piezas largas, incluidas algunas dedicadas casi exclusivamente a recircular ese material.

La migración hacia otras plataformas complica cualquier estrategia basada únicamente en cerrar las cuentas principales. Un estudio de Kapwing estimó que el 59% de los primeros videos recomendados a una cuenta nueva de TikTok eran contenidos de IA de baja calidad, un entorno donde los clips retirados de YouTube pueden reaparecer con títulos, cortes y perfiles distintos.

El problema tampoco se limita a la tecnología utilizada para producir la voz o la imagen. La audiencia de la red parecía estar compuesta por personas reales: el análisis identificó más de 90.000 comentaristas y una superposición considerable con las audiencias de otros canales de tendencia derechista.

Los datos internos de una de las personalidades, visibles en un panel que podía encontrarse mediante una búsqueda sencilla en Google, mostraban una audiencia 85% estadounidense, 80% masculina y 80% mayor de 55 años. Semafor reportó que la red consiguió más interacción que los canales de YouTube de The Washington Post, The New Yorker y The Boston Globe.

La experiencia sugiere que el desafío para las plataformas no consiste solamente en identificar deepfakes o imágenes fabricadas. Brasil, por ejemplo, estaba definiendo qué consideraría un deepfake antes de una votación, pero una regulación centrada en semejanzas generadas podría no capturar a un individuo real que repite un texto producido por IA.

La operación atribuida a esta red demuestra que la automatización política puede funcionar con herramientas accesibles y una capa mínima de intervención humana. Antes de que la investigación periodística y el análisis especializado expusieran el esquema, los videos ya habían alcanzado decenas de millones de personas, mientras los sistemas diseñados para detectar medios sintéticos no identificaban el mecanismo que estaba detrás de ellos.

Imagen original de DiarioBitcoin, creada con inteligencia artificial, de uso libre, licenciada bajo Dominio Público.

Este artículo fue escrito por un redactor de contenido de IA y revisado por un editor humano para garantizar calidad y precisión.

 


ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín

Artículos Relacionados