Por Canuto  

Un texto acordado tras tres años de conversaciones en Ginebra dejó fuera referencias a la previsibilidad, la fiabilidad y la revisión humana de objetivos generados por IA. Human Rights Watch y otros actores advierten que el recorte de garantías podría dificultar la rendición de cuentas por daños a civiles, mientras 76 países respaldan convertir el documento en un tratado vinculante.
***

  • Human Rights Watch afirma que el texto final perdió referencias a previsibilidad, fiabilidad y estándares de diseño, y limitó su alcance al derecho internacional humanitario.
  • Según The Washington Post, Estados Unidos y Rusia promovieron cambios de última hora, incluida la eliminación de una exigencia de revisión humana de objetivos generados por IA.
  • Los diplomáticos volverán a Ginebra en noviembre para decidir si comienzan negociaciones formales de un tratado.

EE.UU. y Rusia debilitan las salvaguardas del acuerdo de la ONU sobre armas autónomas

Un texto negociado en Naciones Unidas para abordar las armas autónomas terminó con menos controles de los que proponían organizaciones de derechos humanos y algunas delegaciones. Human Rights Watch (HRW) sostiene que el documento final eliminó referencias a la previsibilidad, la fiabilidad y los estándares de diseño, además de retirar una disposición que requería revisión humana de objetivos generados por inteligencia artificial antes de un ataque.

Un acuerdo con menos límites que el borrador

El acuerdo quedó finalizado en las primeras horas del 5 de septiembre, después de tres años de conversaciones dentro de la Convención de la ONU sobre Ciertas Armas Convencionales (CCW). Según un despacho de HRW publicado el 7 de septiembre, el texto también acotó su marco jurídico: pasó de abarcar el derecho internacional en general a referirse únicamente al derecho internacional humanitario.

Ese recorte importa porque el documento busca orientar el debate sobre sistemas capaces de seleccionar o atacar objetivos con distintos grados de autonomía. La ausencia de términos sobre fiabilidad y previsibilidad, según los críticos del resultado, reduce el espacio para establecer criterios comunes sobre cómo deben comportarse esas armas y qué controles deben exigirse antes de desplegarlas.

El cambio más concreto señalado por The Washington Post fue la eliminación de una cláusula que exigía que una persona revisara los objetivos identificados por IA antes de un ataque. Esa revisión no habría resuelto por sí sola todos los riesgos, pero habría establecido un punto de intervención humana entre la identificación del objetivo y el uso de la fuerza.

Las modificaciones se discutieron en una sesión a puerta cerrada en Ginebra, con las cámaras apagadas y observadores fuera de la sala, de acuerdo con el diario estadounidense. Personas familiarizadas con las conversaciones citadas por el medio afirmaron que las delegaciones de Estados Unidos y Rusia llevaron equipos legales casi el doble de grandes que los de otras delegaciones y participaron en unas 15 horas de ediciones de último minuto.

La preocupación por la supervisión y la rendición de cuentas

Stop Killer Robots, una coalición que promueve controles internacionales sobre estas armas, también cuestionó el proceso y el contenido del acuerdo. Su directora ejecutiva, Nicole van Rooijen, acusó a Washington y Moscú de trabajar para debilitar el texto, mientras grupos de derechos humanos sostienen que retirar las garantías puede dejar menos mecanismos para responder por daños a civiles.

La preocupación no se limita a si un sistema puede cometer un error técnico; también abarca quién toma las decisiones y quién responde cuando una identificación automática conduce a un ataque. Si las reglas no especifican qué controles humanos deben existir ni qué estándares deben cumplir los sistemas, las organizaciones críticas temen que las responsabilidades queden más difusas después de un daño.

El debate se concentra especialmente en la relación entre los objetivos que genera un sistema de IA y la decisión de emplear fuerza. La cláusula eliminada habría exigido una revisión humana antes del ataque, pero el texto final, según el reporte, no conserva esa obligación; por ello, los críticos ven el cambio como una pérdida de supervisión en una etapa decisiva.

HRW informó que 76 países ya respaldan convertir el texto no vinculante en un tratado vinculante. Esa cifra refleja apoyo a avanzar hacia obligaciones formales, pero no significa que el documento negociado ya tenga fuerza de tratado ni que exista consenso sobre las reglas que debería incluir una eventual negociación.

Una discusión que también alcanza a Estados Unidos

La eliminación de la revisión humana también coincide con una discusión pendiente dentro de Estados Unidos sobre sus propias reglas militares. En junio, el presidente Donald Trump firmó un memorando que ordenó al Pentágono actualizar la Directiva 3000.09, la política que exige juicio humano antes de que las armas autónomas disparen, dentro de un plazo de 90 días.

Según la información disponible en la noticia, hasta el sábado el Pentágono no había publicado la revisión y el plazo ya había vencido. La situación deja una pregunta abierta sobre cómo se alineará la política estadounidense con el debate internacional, aunque el dato por sí solo no permite concluir cuál será el contenido final de la directiva revisada.

En el plano internacional, las posturas sobre los riesgos de la inteligencia artificial también han sido distintas. Dario Amodei, director ejecutivo de Anthropic, dijo esa semana ante el Consejo de Seguridad de la ONU que los sistemas sin control podrían representar un riesgo para la humanidad en su conjunto, mientras Sam Altman, de OpenAI, pidió a los gobiernos tomar decisiones responsables ante las personas a las que sirven.

Un día antes, durante la Asamblea General de la ONU, Trump rechazó lo que describió como un esquema globalista para controlar lo que ahora llama oficialmente Superinteligencia. La diferencia entre esas declaraciones y los llamados a establecer responsabilidades muestra que el debate no se limita a las reglas técnicas de las armas: también enfrenta visiones distintas sobre cuánto deben coordinarse los gobiernos para regular tecnologías avanzadas.

La próxima etapa de las negociaciones

Richard Lennane, asesor de desarme del Comité Internacional de la Cruz Roja, explicó a The Washington Post que los tratados de este tipo no funcionan únicamente como instrumentos de castigo. También pueden establecer normas internacionales, una función que, según señaló, puede observarse en acuerdos previos que limitaron las minas terrestres y las municiones de racimo.

Ese argumento ayuda a entender por qué las organizaciones defensoras de controles consideran relevante el lenguaje del texto, incluso si el documento actual no es vinculante. Las definiciones, principios y expectativas compartidas pueden influir en la conducta de los Estados; sin embargo, para quienes critican el resultado de Ginebra, las omisiones reducen la capacidad del acuerdo para fijar límites claros.

Los diplomáticos regresarán a Ginebra en noviembre para decidir si inician negociaciones formales de un tratado. La próxima decisión será, por tanto, si el texto negociado sirve como punto de partida para obligaciones más estrictas o si las diferencias entre los países impiden abrir esa nueva etapa.

Por ahora, la noticia no indica que exista un tratado vinculante aprobado ni que las armas autónomas queden sujetas a un nuevo régimen internacional. Lo que sí deja claro es que el acuerdo alcanzado tras tres años de conversaciones recibió críticas por haber retirado salvaguardas, mientras un grupo de 76 países mantiene su respaldo a convertirlo en un pacto con fuerza obligatoria.

Imagen original de DiarioBitcoin, creada con inteligencia artificial, de uso libre, licenciada bajo Dominio Público.

Este artículo fue escrito por un redactor de contenido de IA y revisado por un editor humano para garantizar calidad y precisión.


ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín

Artículos Relacionados