Por Canuto  

Testigos ante el Congreso de EE. UU. advirtieron que la velocidad de los sistemas militares con inteligencia artificial podría dejar a los operadores sin tiempo suficiente para verificar recomendaciones, intervenir o atribuir responsabilidades cuando ocurran daños civiles.
***

  • Expertos cuestionaron que un botón de aprobación garantice un control humano significativo sobre ataques asistidos por IA.
  • El Pentágono busca acelerar sus decisiones militares, mientras críticos alertan sobre fallas difíciles de auditar y verificar.
  • Legisladores y organizaciones civiles pidieron más datos sobre la participación de la IA en incidentes con víctimas civiles.

La inteligencia artificial puede influir en decisiones militares con una velocidad superior a la capacidad humana para verificar sus recomendaciones, advirtieron testigos durante una audiencia de la Comisión de Derechos Humanos Tom Lantos de la Cámara de Representantes de Estados Unidos, celebrada el 16 de septiembre. El señalamiento amplía el debate más allá de las armas capaces de seleccionar objetivos por sí mismas y apunta a cualquier sistema que oriente a una persona hacia un ataque, aunque un operador conserve formalmente la última palabra.

La audiencia, titulada «Inteligencia Artificial en el Dominio Militar: Implicaciones para los Derechos Humanos», reunió a especialistas en gobernanza tecnológica, ética militar y derechos humanos. Según la cobertura citada en el borrador, los participantes cuestionaron si la supervisión humana sigue siendo significativa cuando la IA reduce procesos que antes tomaban horas a ventanas de apenas minutos.

El botón de aprobación no garantiza control

Anna Mysyshyn, investigadora ucraniana de gobernanza de la IA, sostuvo ante los legisladores que la aprobación humana, por sí sola, no demuestra que una persona haya ejercido control real sobre una decisión habilitada por inteligencia artificial. La especialista planteó que un operador puede quedar formalmente a cargo mientras recibe una recomendación cuya lógica, datos de respaldo y consecuencias no tiene tiempo suficiente para revisar.

La preocupación adquiere mayor importancia porque el Pentágono impulsa la IA como una herramienta para acelerar la toma de decisiones militares. Su estrategia de adopción de 2023 identificó como objetivo unas cadenas de ataque rápidas, precisas y resistentes, mientras que la estrategia de IA de 2026 propone convertir al ejército en una fuerza prioritaria en inteligencia artificial mediante el rediseño de flujos de trabajo y conceptos operativos alrededor de las capacidades actuales.

Mysyshyn preguntó si una persona que supervisa varios sistemas habilitados por IA podría detectar una recomendación incorrecta y detener la operación antes de que ocurra un daño. Citó a Ucrania como un ejemplo de la forma en que estas tecnologías pueden comprimir decisiones de horas a minutos, un cambio que reduce el margen disponible para solicitar información adicional, desafiar una inferencia o modificar la respuesta.

La directiva del Departamento de Defensa emitida en 2023 sobre autonomía en sistemas de armas exige que los sistemas autónomos y semiautónomos permitan a comandantes y operadores ejercer niveles apropiados de juicio humano sobre el uso de la fuerza. Sin embargo, la audiencia planteó una pregunta más amplia: si ese juicio puede considerarse significativo cuando la máquina orienta el proceso más rápido de lo que el humano puede comprobar sus premisas.

Fallas estadísticas y responsabilidades difíciles de reconstruir

Amanda Klasing, directora nacional de relaciones gubernamentales y defensa de Amnistía Internacional Estados Unidos, advirtió que la IA puede comprimir la cadena de ataque de una manera que vuelva difícil determinar si existió discernimiento humano antes de disparar. El problema, explicó, no depende exclusivamente de que el sistema sea autónomo, sino de la influencia que ejerce sobre quien debe aprobar una acción en condiciones de presión y tiempo limitado.

Joseph Chapa, exoficial militar y especialista en ética castrense, pidió que el debate no se limite a clasificar cada sistema según su grado de autonomía. A su juicio, los legisladores también deben examinar si la herramienta utiliza inferencias estadísticas, cómo responde cuando falla en un entorno operativo concreto y si sus decisiones pueden auditarse después de una misión.

Los sistemas estadísticos pueden comportarse de manera distinta al software tradicional, señaló Chapa, incluso cuando pequeños cambios en las entradas producen resultados sustancialmente diferentes. Los modelos más complejos también pueden dificultar la reconstrucción de la secuencia que llevó a una recomendación específica, lo que complica tanto la investigación de errores como la identificación de las personas responsables.

Por esa razón, Chapa reclamó una mayor educación sobre inteligencia artificial dentro de las fuerzas armadas, con capacitación especializada para quienes trabajan con sistemas de inteligencia y orientación de objetivos. Mysyshyn añadió que las pruebas deberían evaluar sesgos, confiabilidad, protección de civiles, presión temporal realista, capacidad de los operadores para interrumpir el sistema y posibilidad de rastrear decisiones durante todo el ciclo de vida de la herramienta.

El desafío de medir daños civiles

Los testigos también describieron un problema institucional: el Pentágono no siempre cuenta con mecanismos suficientes para determinar si una herramienta de IA contribuyó a identificar de forma incorrecta a civiles como objetivos. El Departamento de Defensa creó en 2022 un Plan de Acción de Mitigación y Respuesta al Daño Civil, que incluye un Centro de Excelencia para la Protección de Civiles como espacio de análisis y capacitación, y la ley federal exige que el organismo opere ese centro.

Una revisión del inspector general del Departamento de Defensa, publicada en mayo, encontró dificultades en la aplicación de ese marco. Entre ellas figuraron la pérdida o reasignación de personal, el fin del financiamiento para una plataforma de gestión de datos sobre daños civiles y el hecho de que un comité directivo de alto nivel dejó de reunirse, problemas que pueden reducir la capacidad de evaluar patrones y extraer lecciones de operaciones anteriores.

La falta de información resulta especialmente relevante cuando la tecnología participa en la selección o priorización de objetivos. Klasing propuso que los informes anuales de víctimas civiles exigidos por la Sección 1057 de la Ley de Autorización de Defensa Nacional incluyan si la IA tuvo algún papel en cada incidente, ya que las normas actuales solicitan datos sobre mitigación e investigaciones, pero no obligan específicamente a identificar una contribución tecnológica.

Steve Feldstein, miembro sénior de la Institución Carnegie para la Paz Internacional, planteó que el Pentágono debería recopilar datos operativos y realizar revisiones posteriores a cada acción para comprobar si los sistemas asistidos por IA identificaron correctamente los objetivos previstos. También preguntó hasta qué punto el Departamento de Defensa está reuniendo información y verificando la precisión de los objetivos en los miles de ataques que se ejecutan durante una campaña militar.

El caso de la escuela en Minab

La audiencia abordó el caso de la escuela primaria Shajareh Tayyebeh, en Minab, al sur de Irán, que, según las informaciones citadas durante el debate, fue destruida por un misil de crucero Tomahawk durante el primer día de la guerra entre Estados Unidos e Irán. Las cifras de víctimas han variado según las fuentes; reportes citados en torno al caso hablan de más de un centenar de muertos y de numerosos menores. El Pentágono todavía no ha divulgado las conclusiones de su investigación sobre el ataque.

Un análisis de imágenes satelitales de Amnistía Internacional ubicó el edificio escolar a menos de 100 yardas de una instalación naval de larga data de la Guardia Revolucionaria Islámica. El lugar había formado parte del perímetro del complejo hasta que apareció un muro entre 2013 y 2016, mientras que la escuela ya existía varios años antes de los primeros ataques de Estados Unidos e Israel del 28 de febrero, según una investigación de Reuters.

La escuela tenía presencia activa en redes sociales y un sitio web propio, de acuerdo con esa investigación. Más de 120 legisladores demócratas de la Cámara de Representantes enviaron una carta al Pentágono el 12 de marzo para exigir claridad sobre si la inteligencia artificial, incluido el Sistema Inteligente Maven, se utilizó para identificar a la institución como objetivo.

Investigadores militares estadounidenses concluyeron que el ataque probablemente fue ejecutado por fuerzas de ese país, pero el Departamento de Defensa aún no ha publicado sus hallazgos. La falta de una respuesta definitiva alimenta las preguntas sobre los datos utilizados, las verificaciones realizadas antes del lanzamiento y la posibilidad de atribuir responsabilidades cuando una recomendación tecnológica interviene en una cadena de decisión que termina con víctimas civiles. La participación de Maven en la identificación de la escuela no ha sido confirmada públicamente.

La velocidad no elimina los criterios humanos

Los especialistas reunidos ante el Congreso evitaron presentar la inteligencia artificial como la causa automática de todos los errores militares. Feldstein recordó que estas herramientas también pueden apoyar la verificación de información, detectar cambios en imágenes y priorizar respuestas defensivas frente a drones o misiles balísticos, siempre que existan controles adecuados sobre sus datos, objetivos y límites operativos.

Mysyshyn advirtió, no obstante, que la IA no corregirá necesariamente una premisa humana equivocada incorporada en el diseño o en las reglas de operación. Si quienes construyen o utilizan el sistema asumen que ciertos rasgos demográficos convierten a una persona en un objetivo legítimo, una herramienta estadística podría reproducir esa decisión con mayor velocidad y apariencia de precisión.

Feldstein formuló una advertencia similar sobre las reglas fijadas antes de activar cualquier sistema. Si los comandantes establecen que determinado nivel de daño civil resulta aceptable para alcanzar un objetivo militar, la máquina actuará dentro de un marco definido por seres humanos, de modo que trasladar la culpa al algoritmo puede ocultar decisiones políticas y operativas tomadas previamente.

La comisión abrió la audiencia con un episodio ocurrido en Irak en 2004, cuando el líder de escuadrón del ejército Nick Ellison vio a dos jóvenes disparar una ametralladora desde un automóvil durante una patrulla censal en Kirkuk. Ellison tuvo contacto visual con uno de ellos, observó señales de pánico y ordenó mantener el fuego, pero después descubrió que los hombres eran hermanos de un novio recién casado y que los disparos correspondían a una celebración.

Ese ejemplo mostró por qué el tiempo, la información y la autoridad siguen siendo componentes centrales de cualquier decisión sobre el uso de la fuerza. Deborah Brown, de Human Rights Watch, señaló que la información sobre el uso militar de la IA suele conocerse por investigaciones periodísticas y denunciantes, en lugar de divulgaciones gubernamentales, mientras Chapa recordó que algunos sistemas pueden resultar muy difíciles de auditar después de los hechos.

El debate, por tanto, ya no se concentra únicamente en si una máquina puede apretar el gatillo sin intervención humana. La pregunta decisiva es si la persona que autoriza el disparo dispone de suficiente tiempo, información y capacidad para desafiar una recomendación antes de que una cadena automatizada convierta un error en una tragedia irreversible.

Imagen original de DiarioBitcoin, creada con inteligencia artificial, de uso libre, licenciada bajo Dominio Público.

Este artículo fue escrito por un redactor de contenido de IA y revisado por un editor humano para garantizar calidad y precisión.


ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín

Artículos Relacionados