Por Canuto  

UNIDIR lanzará un foro internacional para debatir los usos militares de la inteligencia artificial, en medio de advertencias sobre el limitado margen de decisión humana y los riesgos en ámbitos como la alerta temprana y la seguridad nuclear.
***

  • UNIDIR presentará el jueves un foro para reunir a actores de distintos sectores y regiones en torno a la IA, la paz y la seguridad.
  • Su director, Robin Geiss, advirtió que el margen para el juicio humano se estrecha incluso en el ámbito nuclear.
  • UNIDIR también prepara pautas voluntarias para la industria y una iniciativa sobre el posible uso de IA por grupos armados.

 

Un debate sobre el control humano

El Instituto de las Naciones Unidas de Investigación sobre el Desarme (UNIDIR) lanzará el jueves un foro internacional dedicado a los usos de la inteligencia artificial en la paz y la seguridad, con atención a sus aplicaciones militares. La iniciativa busca reunir a actores de distintos sectores y regiones para abordar una tecnología que, según advirtió el director del organismo, Robin Geiss, ya se incorpora a funciones relevantes para la seguridad y la toma de decisiones.

UNIDIR describe el foro como una plataforma de participación, intercambio y colaboración sobre la gobernanza de la inteligencia artificial. Geiss señaló que el margen para el juicio humano se estrecha, incluso en el ámbito nuclear, aunque reconoció que resulta difícil determinar cuán cerca está el mundo de que las máquinas actúen fuera del control de las personas. Para el responsable del instituto, esa incertidumbre constituye precisamente uno de los problemas que el nuevo esfuerzo intenta examinar: distinguir cuándo una herramienta apoya una decisión y cuándo puede reducir la capacidad humana de supervisarla.

La inteligencia artificial empieza a utilizarse en tareas como los sistemas de alerta temprana, la recopilación de información y el reconocimiento, enumeró Geiss. La expansión de estas aplicaciones vuelve más compleja la pregunta sobre el control: no basta con identificar una herramienta automatizada, sino que también importa entender en qué momento su participación puede afectar la evaluación humana de una situación militar.

La advertencia no equivale a afirmar que las máquinas ya operen sin supervisión en esos ámbitos; Geiss describió una dificultad para medir el riesgo y establecer dónde podría perderse el control. Esa distinción importa para el debate público, porque la iniciativa parte de una incertidumbre que sus participantes deberán precisar, en lugar de presentar como resuelto el alcance actual de la autonomía de los sistemas.

Un centro permanente y un foro internacional

UNIDIR creó durante el verano un Centro de Excelencia sobre IA, Paz y Seguridad. El instituto presenta este centro como una plataforma global y permanente dedicada a impulsar la gobernanza de la inteligencia artificial en los ámbitos de la paz y la seguridad. El centro busca dar continuidad a un tema que, de acuerdo con Geiss, durante mucho tiempo encontró reticencias a la hora de debatir límites para esta tecnología.

El director del instituto indicó que el centro recibió financiamiento de las cinco grandes potencias nucleares: Estados Unidos, Rusia, China, Reino Unido y Francia. Ese respaldo reúne a países con intereses y posiciones distintas en materia de seguridad, aunque la información citada por Geiss no detalla cuánto aportó cada uno ni las condiciones asociadas a esos recursos.

El foro que UNIDIR presentará el jueves formará parte de ese centro y convocará a participantes de sectores relevantes y de distintas partes del mundo. Geiss no precisó cuáles serán todas sus actividades ni qué compromisos podrían surgir, pero explicó que el espacio se integrará a otros esfuerzos sobre inteligencia artificial que el instituto prevé lanzar durante la misma semana.

El interés internacional coincide con una mayor presencia del tema en la agenda diplomática. Según informó Associated Press, los riesgos de la IA figuraron entre los asuntos principales de los discursos pronunciados por líderes de muchas de las 193 naciones miembros de la ONU durante la reunión anual de alto nivel del mes anterior; ese debate refleja preocupaciones que, según Geiss, ya atraviesan los bloques geopolíticos.

La industria también entra en la discusión

Junto al foro sobre IA, paz y seguridad, UNIDIR prepara una iniciativa centrada en el papel de la industria y en la elaboración de un marco de comportamiento responsable para la IA en el ámbito militar. Geiss explicó que las decisiones empresariales sobre el diseño y el desarrollo pueden influir en que las capacidades militares basadas en IA resulten confiables, previsibles y compatibles con el derecho internacional.

El organismo pretende que ese marco ofrezca pautas prácticas y voluntarias, alineadas con el derecho internacional y destinadas a proteger los derechos humanos. La palabra voluntarias delimita el alcance descrito hasta ahora: la propuesta busca orientar las prácticas de las compañías, pero el anuncio no plantea nuevas obligaciones legales ni mecanismos de sanción.

UNIDIR celebrará consultas con empresas de tecnología de defensa, desarrolladores de software, subcontratistas, inversores y otros participantes, quienes trabajarán junto a gobiernos, organizaciones de la sociedad civil, académicos y expertos. La amplitud de la convocatoria responde a que el desarrollo de estas herramientas involucra a diversos actores, no solo a las autoridades que determinan cómo se emplean en operaciones militares.

La discusión sobre diseño y desarrollo lleva el debate más allá del momento en que una fuerza utiliza un sistema. Si las decisiones técnicas influyen en la confiabilidad y la previsibilidad de una capacidad, las conversaciones con quienes la construyen pueden ayudar a identificar riesgos antes de que esta llegue a un entorno militar, aunque UNIDIR todavía no ha detallado el contenido final de sus pautas.

Grupos armados y riesgos que trascienden fronteras

La agenda de UNIDIR incluirá asimismo una iniciativa sobre los riesgos del uso indebido de la inteligencia artificial por grupos armados. Geiss advirtió que esos actores ya aprovechan la tecnología para apoyar la planificación operativa, la ejecución y la logística, aunque no ofreció detalles sobre grupos concretos, herramientas utilizadas o casos particulares.

La iniciativa amplía el enfoque más allá de los ejércitos estatales y plantea que las capacidades de IA pueden tener consecuencias en distintos escenarios de seguridad. Por ahora, el anuncio identifica áreas de uso y abre un espacio de trabajo, pero no cuantifica la extensión de esas prácticas ni establece qué medidas específicas propondrá para reducirlas.

Geiss sostuvo que la competencia global por el liderazgo en inteligencia artificial plantea obstáculos serios para la cooperación. Al mismo tiempo, afirmó que las inquietudes sobre el impacto de la tecnología ya atraviesan los bloques geopolíticos y citó una propuesta del mes anterior para que Estados Unidos y China establezcan un sistema de alerta de seguridad de IA sobre asuntos capaces de amenazar la seguridad nacional.

El responsable de UNIDIR afirmó que la IA militar ya no debe permanecer al margen del debate y llamó a abordar el tema de frente. El foro, las consultas con la industria y el trabajo sobre grupos armados representan líneas iniciales de una agenda cuyo alcance concreto aún está por definirse; su desarrollo permitirá observar si la preocupación compartida se traduce en prácticas y acuerdos aplicables.

Imagen original de DiarioBitcoin, creada con inteligencia artificial, de uso libre, licenciada bajo Dominio Público.

Este artículo fue escrito por un redactor de contenido de IA y revisado por un editor humano para garantizar calidad y precisión.


ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín

Artículos Relacionados