Por Canuto  

La IA facilita producir versiones convincentes de falsedades, mientras recortes en equipos humanos y reglas de moderación desiguales dificultan frenarlas antes de las elecciones de medio mandato en EE. UU.
***

  • Frances Haugen advirtió que hoy es mucho más barato producir operaciones de desinformación con gran calidad y volumen.
  • Un rumor falso sobre James Talarico cambió al circular en español y continuó difundiéndose después de las desmentidas.
  • Las políticas de Meta, YouTube y X cubren ciertos contenidos, pero no abarcan todas las afirmaciones políticas engañosas.

La desinformación con IA desborda la moderación antes de las elecciones en EE. UU.

Las falsedades políticas creadas o amplificadas con inteligencia artificial se propagan en redes sociales antes de las próximas elecciones de medio mandato en Estados Unidos. Investigadores y especialistas advierten que las plataformas podrían no detectarlas a tiempo, en un escenario donde la producción de imágenes, videos y afirmaciones engañosas cuesta menos y algunos servicios redujeron equipos de moderación humana.

El desafío no se limita a reconocer si una imagen o un video fue generado artificialmente. También incluye seguir afirmaciones que cambian de forma al circular, atraviesan idiomas y llegan a comunidades distintas, mientras las correcciones no necesariamente alcanzan a quienes vieron la versión inicial. Un caso relacionado con el candidato demócrata al Senado por Texas James Talarico ilustra esa dificultad.

Más contenido, menos revisión humana

Las herramientas de IA permiten producir grandes cantidades de imágenes, videos y mensajes falsos con una apariencia convincente. El aumento de esa capacidad coincide con la reducción de algunos equipos dedicados a verificar contenido en las principales redes sociales, que ahora dependen más de filtros automatizados y de los propios usuarios para identificar publicaciones engañosas.

Frances Haugen, exingeniera de datos de Facebook y denunciante de la compañía, explicó a The Guardian que hoy es posible montar una operación de información de alta calidad a un costo muy bajo, algo que, según dijo, no era viable en 2016. Su advertencia apunta a un cambio en la escala potencial de estas campañas: producir numerosas piezas resulta más accesible, aunque eso no demuestra por sí solo quién está detrás de cada publicación ni con qué propósito.

Haugen también describió una táctica para eludir los filtros: introducir cambios pequeños en cada versión de una afirmación falsa. Si una publicación ya fue marcada, sus variantes pueden modificar detalles o formulaciones y escapar a sistemas que detectan coincidencias con contenido previamente identificado.

La dinámica complica una respuesta basada únicamente en retirar publicaciones idénticas. Un rumor puede conservar la idea central y, al mismo tiempo, alterar palabras o detalles suficientes para parecer nuevo ante un filtro automatizado. Así, la moderación debe afrontar no solo un volumen mayor, sino también versiones que evolucionan mientras circulan.

Un rumor sobre Talarico cambió al pasar al español

A principios de este mes, publicaciones en X afirmaron que Talarico recibía tratamiento en un centro de salud mental de Ohio. En realidad, el candidato estaba en casa con gripe, según informó La Voce di New York; tanto el hospital como Talarico desmintieron el rumor en cuestión de horas.

La aclaración no acabó con la circulación de la historia, que continuó durante días. Investigadores del Digital Democracy Institute of the Americas, organización que monitorea la desinformación dirigida a votantes latinos, detectaron que el relato se transformó al difundirse en medios y espacios en español.

La versión alterada llegó a afirmar falsamente que Talarico había intentado quitarse la vida. De acuerdo con los investigadores, corregir la acusación original no detuvo la difusión de esa variante, lo que muestra cómo una desmentida puede quedar desfasada frente a una historia que cambia de contenido durante su recorrido.

Roberta Braga, fundadora del instituto, señaló que las plataformas aplican sus reglas de manera menos consistente a publicaciones en español que a las escritas en inglés. También advirtió que una mayor dependencia de la moderación automatizada podría hacer que más material se escape, sobre todo cuando los sistemas deben interpretar versiones cambiantes en distintos idiomas.

Reglas distintas y vacíos en la moderación

Las grandes plataformas no usan un criterio único para tratar la desinformación política, y sus políticas cubren clases específicas de contenido. Meta etiqueta imágenes generadas con IA que puede identificar y exige a los anunciantes políticos declarar el uso de esa tecnología, mientras YouTube prohíbe afirmaciones falsas sobre cuándo, dónde y cómo se puede votar.

X, en cambio, depende en gran medida de Community Notes, un sistema colaborativo en el que los usuarios aportan contexto a las publicaciones. Estas diferencias importan porque una política centrada en imágenes sintéticas o en información práctica sobre el voto no necesariamente aborda otras afirmaciones políticas engañosas, incluso cuando pueden influir en la conversación electoral.

La IA también aparece en publicidad oficial de campañas. Ken Paxton, el republicano que desafía a Talarico, difundió un anuncio con imágenes del candidato demócrata generadas mediante inteligencia artificial; el anuncio reveló ese uso, y algunos estados, entre ellos Pensilvania, han establecido normas que exigen este tipo de divulgación.

Las plataformas no respondieron todas de la misma manera a las consultas de The Guardian: Meta y X no enviaron comentarios, mientras que YouTube afirmó que sus pautas se aplican por igual a todos los usuarios, incluidos los candidatos políticos. La diferencia entre las obligaciones de divulgación y las reglas sobre afirmaciones falsas deja claro que detectar contenido sintético y corregir información engañosa son problemas relacionados, pero no idénticos.

Un reto que cruza fronteras e idiomas

El problema no se limita a Estados Unidos. En España, un partido político enfrenta una denuncia judicial por un video electoral deepfake, un caso que evidencia que el uso de medios sintéticos en campañas y las preocupaciones sobre sus consecuencias también aparecen fuera del ciclo electoral estadounidense.

Para las plataformas, por tanto, el reto no consiste solamente en identificar imágenes o videos fabricados con IA. Deben también reconocer afirmaciones falsas que se modifican al difundirse y que pueden pasar de una lengua a otra, mientras las correcciones compiten por la atención con versiones nuevas del mismo rumor.

El caso de Talarico reúne varios elementos de esa dificultad: una acusación falsa, una desmentida rápida y una variante más grave que siguió circulando en español. Los investigadores citados sostienen que la corrección de la primera versión no bastó para frenar la segunda, lo que subraya la importancia de evaluar cómo se propagan las narrativas, además de revisar cada pieza por separado.

La fuente también destaca que la reducción de moderadores humanos y el mayor uso de sistemas automatizados pueden dejar huecos, aunque las plataformas mantengan políticas específicas y mecanismos de reporte comunitario. A medida que las campañas incorporan IA para crear y distribuir contenido, la capacidad de responder dependerá de detectar tanto los medios sintéticos como las afirmaciones que mutan entre publicaciones, idiomas y comunidades.

Imagen original de DiarioBitcoin, creada con inteligencia artificial, de uso libre, licenciada bajo Dominio Público.

Este artículo fue escrito por un redactor de contenido de IA y revisado por un editor humano para garantizar calidad y precisión.


ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín

Artículos Relacionados