China estaría desarrollando una IA para predecir quién podría ser un rebelde político

Una empresa china vinculada a tecnologías de censura y vigilancia trabaja en herramientas de IA capaces de analizar ubicación, actividad en Internet y otros datos personales para anticipar quién podría representar un riesgo político para el gobierno, según documentos filtrados analizados por investigadores. 

***

• Geedge Networks, proveedor de tecnologías similares al Gran Cortafuegos chino, estaría desarrollando sistemas de IA para perfilar ciudadanos y detectar potencial disidencia.
• Los documentos filtrados sugieren que la empresa busca combinar datos de telecomunicaciones, redes sociales, ubicación, consumo de contenidos y actividad online.
• Investigadores señalan que las restricciones de EE. UU. a chips avanzados de IA habrían limitado parte del desarrollo de estas herramientas predictivas.

Una empresa china especializada en tecnologías de censura y vigilancia estaría desarrollando herramientas de inteligencia artificial para ir más allá del monitoreo tradicional de disidentes y anticipar quién podría convertirse en uno en el futuro.

La compañía, Geedge Networks, vende una versión comercial del llamado Gran Cortafuegos chino, el sistema de censura y control de Internet usado por Pekín para vigilar tráfico online, bloquear contenidos y detectar intentos de evadir restricciones digitales. Pero documentos filtrados analizados por investigadores de la Universidad de Vanderbilt apuntan a una ambición más inquietante: usar IA para crear perfiles de ciudadanos y predecir quién podría decir o hacer algo crítico contra el gobierno.

La investigación, reseñada por The New York Times, se basa en una filtración de alrededor de 100.000 documentos de Geedge publicados originalmente en septiembre pasado. Aunque no hay evidencia de que la herramienta predictiva esté terminada o desplegada, los documentos muestran que la compañía y su brazo de investigación, MESA Lab, trabajaban en tecnologías para clasificar personas, analizar patrones de comportamiento y detectar lo que el Partido Comunista chino suele denominar “información dañina”, una expresión que con frecuencia se usa para referirse a disidencia política o contenidos que el Estado desea suprimir.

De vigilar disidentes a predecirlos

El salto tecnológico descrito por los investigadores es significativo. La vigilancia digital tradicional permite identificar qué usuarios acceden a ciertos sitios, intentan usar herramientas para saltar censura o publican mensajes críticos. La vigilancia predictiva, en cambio, intenta anticipar comportamientos antes de que ocurran.

Según los documentos, investigadores de Geedge discutieron en febrero de 2024 cómo construir perfiles para “identificar la intención” de personas y facilitar el descubrimiento de “información dañina”. El sistema buscaría combinar datos de telecomunicaciones, redes sociales, ubicación y consumo de contenidos para inferir patrones de conducta.

Los investigadores de Vanderbilt señalaron que Geedge no solo estaría documentando hábitos, sino intentando predecir qué ciudadanos podrían hacer algo después y con quién podrían hacerlo. Esa lógica convierte grandes cantidades de datos ordinarios —movimientos, navegación, lecturas, películas vistas o actividad social— en materia prima para sistemas de clasificación política.

Brett J. Goldstein, director del Wicked Problems Lab del Instituto de Seguridad Nacional de Vanderbilt, resumió el riesgo de forma directa: “esto es lo que ocurre cuando la vigilancia masiva se encuentra con la IA”. Para Goldstein, sin controles ni contrapesos, el caso chino ofrece una vista previa de lo que estas herramientas podrían permitir en cualquier lugar donde no existan límites institucionales.

Geedge y la exportación de vigilancia

Geedge Networks no es una compañía cualquiera dentro del ecosistema tecnológico chino. Su negocio está vinculado a herramientas de seguridad de redes, censura y monitoreo de tráfico digital, y sus productos han sido asociados con la exportación de software de vigilancia a otros países.

Investigaciones previas de Wired y otros medios, basadas en los mismos documentos filtrados, describieron cómo Geedge exportó su software de seguridad de redes a países como Etiopía, Kazajistán, Myanmar y Pakistán, permitiendo formas de vigilancia masiva sobre redes móviles.

La preocupación ahora es que esas capacidades puedan evolucionar desde censura y monitoreo hacia tecnologías de predicción política. Si una herramienta de este tipo se perfecciona, podría ofrecer a gobiernos autoritarios una forma de identificar potenciales críticos antes de que publiquen, organicen protestas, contacten a activistas o participen en redes opositoras.

Ese escenario recuerda a la lógica de “Minority Report”, la película de 2002 en la que una unidad policial arresta personas antes de que cometan delitos futuros. La diferencia es que, en este caso, la predicción no se aplicaría a crímenes violentos ficticios, sino a posibles expresiones políticas, contactos sociales o patrones de conducta considerados problemáticos por un Estado.

Chips de IA y límites al poder predictivo

Uno de los hallazgos más relevantes de la investigación es que el avance de Geedge habría sido limitado por restricciones estadounidenses a chips avanzados de inteligencia artificial.

Los documentos muestran que en 2024, bajo controles de exportación impuestos durante la administración Biden, Geedge y MESA Lab enfrentaron dificultades para conseguir suficiente poder de cómputo. Los investigadores de Vanderbilt señalaron que la empresa tuvo que recurrir a modelos de IA y chips más antiguos y menos potentes debido a limitaciones en unidades de procesamiento gráfico, o GPU, los chips clave para entrenar y ejecutar modelos de IA avanzados.

Funcionarios estadounidenses citados por The New York Times indicaron que Geedge tendría suficiente capacidad de cómputo para sus productos actuales, pero probablemente necesitaría chips más avanzados para desplegar versiones más ambiciosas de vigilancia predictiva, especialmente si quisiera incorporar llamadas telefónicas interceptadas, video de vigilancia u otras fuentes de datos mucho más pesadas.

El punto es importante porque muestra que las restricciones tecnológicas no solo afectan la carrera comercial de IA, sino también la capacidad de gobiernos autoritarios para desarrollar herramientas de control social más sofisticadas.

Jimmy Goodrich, investigador del Institute on Global Conflict and Cooperation de la Universidad de California, explicó que los servicios de seguridad chinos enfrentan una sobrecarga de datos. La IA les permitiría clasificar esa información y priorizar amenazas, pero su capacidad para escalar depende del acceso a cómputo avanzado.

Trump, Nvidia y la disputa por los chips

La investigación también entra en un debate geopolítico más amplio: hasta qué punto Estados Unidos debe restringir el acceso de China a chips diseñados por compañías estadounidenses como Nvidia.

Exfuncionarios de la administración Biden sostienen que las restricciones a chips avanzados ayudaron a mantener la ventaja estadounidense en inteligencia artificial y a ralentizar tecnologías chinas sensibles. Sin embargo, la administración de Donald Trump habría debilitado algunas de esas restricciones, aunque mantiene límites sobre los procesadores más avanzados de Nvidia.

Durante una visita reciente de Trump a Pekín, funcionarios estadounidenses indicaron que China tendría acceso a una versión más avanzada de chips Nvidia, según el reporte. Al mismo tiempo, China intenta reducir su dependencia de chips diseñados en Estados Unidos, para que los controles de exportación no limiten sus ambiciones en inteligencia artificial.

Este debate tiene implicaciones directas para la vigilancia. Si China logra desarrollar suficientes capacidades domésticas de cómputo, empresas como Geedge podrían tener menos obstáculos para construir sistemas de predicción política a gran escala.

IA para propaganda y vigilancia

El caso de Geedge no aparece aislado.

The New York Times y Vanderbilt ya habían documentado previamente el trabajo de otra empresa china vinculada al Estado, GoLaxy, que desarrollaba software de inteligencia artificial para impulsar propaganda dirigida. Esas herramientas buscaban promover narrativas alineadas con el gobierno chino y contrarrestar puntos de vista que Pekín consideraba adversos.

Geedge representa una dimensión complementaria. Mientras GoLaxy apuntaría a influir sobre opiniones, Geedge trabajaría en detectar y anticipar quién podría convertirse en fuente de crítica o disidencia. En conjunto, ambas líneas de desarrollo muestran cómo la IA puede ser usada tanto para moldear el discurso público como para identificar a quienes se apartan de él.

Los documentos también sugieren que las oficinas de seguridad pública de China están explorando el uso de DeepSeek, uno de los principales modelos de IA del país, para tecnologías de vigilancia y policía predictiva. Esto indica que el interés por estas herramientas no se limita a una sola empresa, sino que forma parte de un movimiento más amplio dentro del aparato de seguridad chino.

No hay evidencia de despliegue final

Pese a la gravedad de los documentos, hay un matiz importante: no existe evidencia pública de que Geedge haya finalizado o desplegado plenamente esta tecnología predictiva.

Funcionarios estadounidenses citados en el reporte indicaron que los documentos no cubren los meses más recientes y que la tecnología parecería estar en etapa de investigación. Geedge no respondió a solicitudes de comentario.

Aun así, el valor de la investigación está en mostrar la dirección del desarrollo tecnológico. La IA generativa y los modelos de análisis masivo no solo se están aplicando a productividad, entretenimiento, comercio o programación. También están siendo integrados en sistemas de vigilancia estatal, control social y clasificación política.

La diferencia entre una herramienta experimental y una desplegada puede ser cuestión de tiempo, cómputo y voluntad política.

Un riesgo que puede cruzar fronteras

El mayor temor de investigadores y defensores de derechos digitales es que estas tecnologías no se queden dentro de China.

Si empresas como Geedge ya exportan herramientas de censura y vigilancia, una futura generación de sistemas predictivos podría llegar a otros gobiernos con bajos controles democráticos, sistemas judiciales débiles o historial de persecución política.

El riesgo no es solo que un Estado vigile lo que una persona dijo, sino que use modelos de IA para inferir lo que podría decir, leer, apoyar o hacer. En ese escenario, errores de clasificación, sesgos de datos o interpretaciones políticas podrían tener consecuencias graves para ciudadanos comunes.

La investigación también plantea una advertencia para países democráticos. La misma combinación de datos masivos, modelos de IA y capacidades de vigilancia puede ser usada bajo marcos legales muy distintos. Sin controles robustos, transparencia, límites judiciales y rendición de cuentas, herramientas diseñadas para seguridad pueden transformarse en mecanismos de persecución preventiva.

China parece estar probando los límites de esa frontera. Y la carrera por chips avanzados, modelos de IA y vigilancia masiva muestra que la disputa tecnológica entre Washington y Pekín ya no se trata solo de productividad o liderazgo económico. También define qué tipo de poder pueden ejercer los Estados sobre sus ciudadanos.

Imagen original de DiarioBitcoin, creada con inteligencia artificial, de uso libre, licenciada bajo Dominio Público

Este artículo fue escrito por un redactor de contenido de IA

ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín