Por Canuto  

Expertos de Estados Unidos y China proponen líneas rojas, control humano y una línea directa para evitar que una IA autónoma transforme un fallo cibernético en una crisis nuclear.
***

  • Las recomendaciones buscan impedir que la IA controle por sí sola armas nucleares o ataque sistemas estratégicos.
  • Una línea directa permitiría aclarar si una operación automatizada fue accidental, no autorizada o deliberada.
  • Washington y Pekín aún desconfían de reglas que puedan frenar su desarrollo tecnológico o favorecer al rival.

Expertos en seguridad de Estados Unidos y China propusieron adoptar salvaguardas inspiradas en el control de armas nucleares para reducir los riesgos asociados con sistemas de inteligencia artificial cada vez más autónomos. El planteamiento parte de un escenario extremo: una IA podría interferir con una red de mando nuclear o ejecutar una operación cibernética militar, dejando a Washington o Pekín con apenas minutos para decidir si enfrentan un accidente, una intrusión o un ataque ordenado por el otro gobierno.

Las recomendaciones incluyen líneas rojas alrededor de los sistemas nucleares, control humano sobre los ciberataques de consecuencias trascendentales y una línea directa para incidentes relacionados con IA autónoma. El documento fue publicado antes de las conversaciones gubernamentales previstas sobre inteligencia artificial y de la reunión esperada para el 24 de septiembre en Washington entre el presidente de Estados Unidos, Donald Trump, y el presidente chino, Xi Jinping.

Una nueva dimensión de la rivalidad tecnológica

La discusión refleja que la competencia entre Estados Unidos y China ya no se limita a los chips avanzados, la capacidad informática o el rendimiento de los modelos de IA. También abarca problemas tradicionalmente asociados con el control de armamentos, como evitar que un accidente sea interpretado como una agresión, limitar las decisiones militares tomadas por máquinas y crear protocolos de comunicación entre potencias con arsenales nucleares.

Las autoras de la propuesta son Melanie Sisson, investigadora sénior de Brookings Institution, y Tianjiao Jiang, profesora asociada de la Universidad de Fudan. Ambas participaron en el diálogo entre Estados Unidos y China sobre IA y seguridad nacional, convocado desde 2019 por Brookings y el Centro de Estrategia y Seguridad Internacional de la Universidad de Tsinghua, un espacio cuyo trabajo contribuye a orientar las discusiones oficiales.

El debate ocurre mientras funcionarios chinos describen la inteligencia artificial como un componente central de la guerra moderna. Chen Yixin, ministro de Seguridad del Estado de China, escribió esta semana en un medio gubernamental que la IA está transformando fundamentalmente la forma de la lucha militar y pasó de cumplir una función de apoyo en el campo de batalla a desempeñar un papel clave.

Chen citó los ataques dirigidos por IA en la guerra de Estados Unidos e Israel contra Irán como una señal de ese cambio. La referencia ilustra la preocupación de los expertos: cuanto más se integre la IA en operaciones militares, más difícil puede resultar distinguir entre una decisión humana deliberada, una respuesta automática, un sistema comprometido o un comportamiento inesperado.

Las líneas rojas alrededor del arsenal nuclear

Sisson argumentó que los seres humanos deberían conservar la autoridad exclusiva para iniciar ciberataques con IA contra los sistemas de mando, control y comunicaciones nucleares de la otra potencia. La misma protección, según su propuesta, debería extenderse a infraestructuras estratégicamente importantes, porque una acción autónoma contra ellas podría generar una respuesta militar antes de que los gobiernos comprendan el origen del incidente.

El riesgo no se limita a que un sistema cometa un error técnico. Una IA podría exceder sus instrucciones, interpretar de forma incorrecta una señal o ser comprometida por un tercero, mientras el país afectado enfrenta dificultades para determinar si la operación fue accidental o si recibió autorización oficial del rival.

Jiang propuso líneas rojas explícitas para impedir que una IA decida por sí sola el uso de armas nucleares o ataque autónomamente los sistemas de mando nuclear. También planteó protecciones para infraestructuras críticas de energía, finanzas y salud, sectores cuya interrupción podría provocar daños amplios y aumentar la presión política durante una crisis.

La investigadora de Fudan instó además a que ambos gobiernos adopten una definición compartida de “control humano significativo”. Sin un entendimiento común, Washington y Pekín podrían utilizar la misma expresión para justificar niveles muy distintos de autonomía, desde una herramienta que solo recomienda acciones hasta un sistema que las ejecuta sin una aprobación humana efectiva.

La propuesta se apoya en un principio respaldado por el entonces presidente de Estados Unidos, Joe Biden, y Xi en noviembre de 2024: las personas deben conservar el control sobre las decisiones relativas al uso de armas nucleares. Lora Saalman, investigadora asociada sénior del Instituto Internacional de Investigación para la Paz de Estocolmo, escribió en febrero que ese punto representaba una convergencia relevante entre ambos países.

Una línea directa para incidentes de IA

Jiang también propuso crear una línea directa militar dedicada a los incidentes de inteligencia artificial entre Estados Unidos y China. Su argumento es que los intercambios cibernéticos automatizados podrían escalar a una velocidad superior a la capacidad de los funcionarios para intervenir, verificar la información y establecer si la actividad responde a una orden estatal.

En un escenario posible, la IA defensiva de un país podría responder automáticamente a una actividad considerada sospechosa. El otro gobierno podría interpretar esa respuesta como un ataque y ordenar una represalia antes de comprender que el primer movimiento fue una reacción programada, un error del sistema o una operación que nunca recibió autorización.

Una línea directa permitiría comunicar que una operación inusual fue accidental, no autorizada o todavía objeto de investigación. Esa aclaración no eliminaría el riesgo técnico, pero podría reducir la posibilidad de que una señal ambigua se convierta en una atribución inmediata y, posteriormente, en una escalada militar.

La utilidad de ese mecanismo, sin embargo, dependería de que los funcionarios respondan con rapidez durante una crisis. Carla Freeman, de la School of Advanced International Studies de Johns Hopkins, cuestionó la eficacia de la actual línea directa de comunicación de crisis entre Estados Unidos y China, citando la negativa de funcionarios chinos a responder llamadas de sus contrapartes estadounidenses durante el incidente del globo espía en febrero de 2023.

Freeman también señaló que la estructura vertical de la burocracia china puede limitar la iniciativa de los oficiales de menor rango durante encuentros con sus pares estadounidenses. En un artículo publicado en War on the Rocks en enero, sostuvo que los funcionarios pueden esperar días hasta que el liderazgo superior, junto con los actores relevantes del sistema de partido y Estado, defina una respuesta a Washington.

Desconfianza y límites políticos

Ninguno de los dos gobiernos ha respaldado públicamente las propuestas elaboradas en el diálogo de Brookings y Tsinghua. China, no obstante, ha incorporado cada vez más la IA a sus estructuras existentes de control de armamentos, mientras Estados Unidos mantiene la política relacionada con la seguridad de la IA distribuida entre varias instituciones.

La inteligencia artificial es ahora una cartera formal del Departamento de Control de Armas del Ministerio de Exteriores chino, organismo que también gestiona asuntos vinculados con armas nucleares, no proliferación, misiles y otras cuestiones de seguridad internacional. Shen Jian, embajador de China para asuntos de desarme, afirmó ante una reunión de Naciones Unidas en Ginebra en junio que la IA militar podría afectar la estabilidad estratégica, aumentar los riesgos de error de cálculo y elevar la posibilidad de una escalada.

Shen defendió que las armas permanezcan bajo control humano, pero China también sostiene que la seguridad de la IA no debe convertirse en un pretexto para imponer barreras tecnológicas. Esa posición resume una tensión central de las conversaciones: los gobiernos pueden aceptar medidas para evitar accidentes, pero temen que las mismas reglas limiten su capacidad de desarrollar sistemas militares o concedan una ventaja estratégica al rival.

Washington no cuenta con una única institución equivalente al Departamento de Control de Armas chino para coordinar la seguridad de la IA. La política estadounidense se reparte entre el Consejo de Seguridad Nacional de la Casa Blanca, el Departamento de Estado, el Pentágono y otras agencias, una distribución que puede complicar la construcción de protocolos comunes y la definición de quién debe responder durante un incidente.

Trump ha advertido que las restricciones amplias podrían otorgar una ventaja a China, mientras Pekín interpreta muchos controles tecnológicos estadounidenses como intentos de preservar el dominio de Washington. En ese contexto, establecer límites para la IA militar exigirá resolver una contradicción difícil: ambos países necesitan mecanismos que reduzcan el riesgo de una guerra accidental, pero ninguno quiere que la cooperación se convierta en una desventaja dentro de la carrera tecnológica.

La propuesta de los expertos no constituye todavía un acuerdo entre gobiernos ni una norma internacional vinculante. Su importancia radica en trasladar la conversación desde la competencia por modelos y chips hacia protocolos concretos para conservar el juicio humano cuando una máquina opere en entornos donde un error puede tener consecuencias irreversibles.

Imagen original de DiarioBitcoin, creada con inteligencia artificial, de uso libre, licenciada bajo Dominio Público.

Este artículo fue escrito por un redactor de contenido de IA y revisado por un editor humano para garantizar calidad y precisión.


ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín

Artículos Relacionados