Por Canuto  

China lanzó una ofensiva contra el contenido basura generado masivamente con inteligencia artificial y retiró millones de piezas en plataformas como Douyin, WeChat y RedNote. La campaña expone la preocupación de Pekín por los deepfakes, las noticias falsas y el uso de clásicos literarios para fabricar publicaciones sensacionalistas destinadas a captar clics.
***

  • La Administración del Ciberespacio de China informó el retiro de más de 5,61 millones de piezas de contenido dañino o ilegal.
  • La operación alcanzó 2.400 sitios web y aplicaciones, además de unas 49.000 cuentas.
  • Las autoridades señalaron abusos relacionados con noticias falsas, material explícito, suplantación de identidad y seguridad de menores.

China amplía su ofensiva contra el contenido basura generado con IA y apunta a las grandes plataformas sociales

China abrió una nueva ofensiva contra el llamado “slop” de inteligencia artificial, una expresión utilizada para describir el contenido sintético de baja calidad que se produce en grandes volúmenes y satura redes sociales y canales de noticias. La campaña busca contener el uso abusivo de herramientas generativas, capaces de fabricar imágenes, videos, voces y titulares llamativos en cuestión de segundos, según informó South China Morning Post.

La Administración del Ciberespacio de China, conocida por sus siglas en inglés CAC, comunicó que durante su última ronda de aplicación de la ley eliminó más de 5,61 millones de piezas de contenido dañino o ilegal. El regulador también informó el retiro de unas 49.000 cuentas, en una operación que muestra la escala con la que las autoridades están abordando el material producido o amplificado mediante inteligencia artificial.

La ofensiva se extendió a 2.400 sitios web y aplicaciones, entre ellos algunos de los servicios digitales más utilizados en el país. La lista incluye Douyin, la aplicación hermana de TikTok, su rival Kuaishou, la plataforma RedNote y WeChat, el servicio de mensajería y redes sociales de Tencent Holdings.

Una limpieza dirigida a los abusos de la inteligencia artificial

La CAC concentró la medida en varias categorías de contenido que, de acuerdo con el regulador, representan riesgos para la información pública y la seguridad de los usuarios. Entre ellas figuran las noticias falsas impulsadas por IA, el material explícito y violento, la suplantación de identidad y las violaciones de seguridad que involucran a menores.

Estas categorías reúnen problemas distintos, pero comparten una característica: la facilidad con la que una herramienta generativa puede producir material convincente y distribuirlo rápidamente. Un video falso puede imitar el rostro o la voz de una persona, mientras un titular fabricado puede presentarse como una noticia antes de que los usuarios tengan oportunidad de verificarlo.

La respuesta de Pekín también refleja una preocupación más amplia por la accesibilidad de la IA generativa. A medida que estas herramientas se vuelven más baratas y sofisticadas, la producción de deepfakes y publicaciones sensacionalistas deja de requerir conocimientos técnicos avanzados, lo que complica la tarea de los sistemas tradicionales de moderación.

Para las plataformas, el desafío no consiste únicamente en identificar una imagen o un video artificial, sino también en evaluar el contexto y la intención de su publicación. La misma tecnología puede utilizarse para crear material legítimo o educativo, pero también para suplantar personas, manipular hechos y atraer tráfico mediante piezas diseñadas para provocar reacciones rápidas.

Clásicos literarios convertidos en contenido para conseguir clics

El regulador afirmó que creadores de Douyin, Kuaishou y WeChat utilizaron inteligencia artificial para transformar clásicos de la literatura china en contenido sensacionalista y de baja calidad. La CAC mencionó específicamente Romance of the Three Kingdoms y Journey to the West, obras reconocidas que fueron convertidas en lo que describió como “bazofia digital” para captar tráfico.

El caso ilustra cómo la economía de la atención puede incentivar la producción masiva de publicaciones que priorizan el impacto inmediato sobre la precisión o el valor cultural. Con instrucciones simples, un creador puede pedir a una herramienta que reescriba una historia conocida, altere a sus personajes o la presente como una sucesión de escenas exageradas, siempre con el objetivo de aumentar visualizaciones y compartir contenido.

La operación no se limita, por tanto, a perseguir falsificaciones políticas o videos manipulados de figuras públicas. También aborda la degradación de materiales informativos y culturales cuando estos se convierten en piezas repetitivas, engañosas o deliberadamente provocadoras para alimentar los algoritmos de recomendación.

El término “slop” resume precisamente esa combinación de volumen, automatización y escasa calidad, aunque el comunicado de la CAC también vincula la campaña con categorías más graves de daño. La eliminación de millones de piezas y decenas de miles de cuentas indica que las autoridades consideran el problema parte de una disputa más amplia por el control de la información en los servicios digitales chinos.

El reto de moderar una tecnología cada vez más accesible

La expansión de la IA generativa ha reducido el tiempo y el costo necesarios para producir contenido visual y textual. Esa transformación permite crear publicaciones atractivas con rapidez, pero también aumenta la cantidad de material que las plataformas deben revisar, clasificar y retirar cuando infringe las reglas o puede inducir a los usuarios a error.

Los deepfakes son especialmente difíciles de gestionar porque pueden combinar rostros, voces y escenas verosímiles en una sola pieza. Cuando además se presentan junto con titulares sensacionalistas, su capacidad de atraer atención puede superar la velocidad con la que una plataforma, un periodista o un usuario logra comprobar su autenticidad.

La suplantación de identidad agrega otra capa de riesgo, ya que una publicación artificial puede parecer una declaración de una persona real sin que esta haya participado en su creación. En el caso de los menores, las autoridades también señalaron violaciones de seguridad, un aspecto que coloca la protección de usuarios vulnerables dentro de las prioridades de la campaña.

El anuncio de la CAC no detalla en la información disponible qué sanciones individuales recibió cada cuenta ni qué métodos técnicos utilizaron las plataformas para localizar el material. Sí deja claro que la supervisión alcanzó a servicios de gran escala y que el regulador continuará examinando cómo se utiliza la tecnología generativa en los principales canales digitales del país.

Una señal para las plataformas y los creadores

La intervención coloca a WeChat, RedNote, Douyin y Kuaishou ante una presión adicional para mejorar sus mecanismos de detección y respuesta. Estas plataformas deben lidiar con publicaciones que cambian rápidamente, cuentas que pueden operar a gran velocidad y contenidos que combinan elementos reales con componentes fabricados por inteligencia artificial.

Para los creadores, la campaña introduce un riesgo mayor cuando la automatización se utiliza para producir materiales de manera indiscriminada. La acusación relacionada con los clásicos literarios muestra que el problema no depende solamente de falsificar una noticia, sino también de convertir obras conocidas en productos digitales diseñados exclusivamente para generar tráfico.

La ofensiva también puede influir en la forma en que los usuarios interpretan aquello que aparece en sus pantallas. Si una plataforma mezcla contenidos auténticos con imágenes, videos y titulares generados artificialmente, la capacidad de distinguir información confiable de material fabricado se vuelve una tarea cotidiana y no una excepción.

China está intentando responder a esa presión mediante una campaña que combina el retiro de publicaciones, la clausura de cuentas y la vigilancia de múltiples servicios. El volumen de la operación sugiere que, para Pekín, el abuso de la IA ya no es un problema marginal de las redes sociales, sino un asunto central de gobernanza digital y control de la información.

Imagen original de DiarioBitcoin, creada con inteligencia artificial, de uso libre, licenciada bajo Dominio Público.

Este artículo fue escrito por un redactor de contenido de IA y revisado por un editor humano para garantizar calidad y precisión.


ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín

Artículos Relacionados