Por Canuto  

Un informe de Airwars reconstruye una cadena de muerte ficticia para mostrar cómo la inteligencia artificial puede intervenir en la vigilancia, la selección de objetivos, los ataques y la evaluación posterior, mientras la participación humana se reduce y los errores se multiplican.
***

  • Airwars identificó seis etapas en una cadena de muerte militar: apoyo a decisiones, vigilancia, inteligencia e identificación, selección de objetivos, ataque y evaluación posterior.
  • El informe advierte sobre fallas en traducciones automáticas, perfiles de riesgo, visión por computadora, navegación con interferencias y evaluación de daños.
  • Sophia Goodfriend señaló que la presión de tiempo y el sesgo de automatización pueden hacer que los operadores acepten resultados generados por IA sin verificarlos.

 

La inteligencia artificial ya no se limita a tareas administrativas o de análisis dentro de las fuerzas armadas. También participa en procesos que pueden conducir a decisiones de vida o muerte en el campo de batalla.

Un nuevo informe de Airwars, una organización sin fines de lucro dedicada a vigilar la transparencia, descompone los pasos mediante los cuales el aprendizaje automático puede impulsar la guerra moderna. El documento se titula Anatomía de una cadena de muerte de IA.

La investigación reseñada por The Register presenta una guía visual basada en una cadena de muerte ficticia. El concepto describe las etapas que los militares siguen para identificar objetivos y eliminarlos, con especial atención a las decisiones que pueden delegarse a sistemas automatizados.

Los autores del informe son Sophia Goodfriend, Heidy Khlaaf, Namir Shabibi, Joe Dyke y Nathan Walker. Su trabajo busca desplazar la conversación desde un arma o una empresa específica hacia el conjunto de sistemas que intervienen en una operación.

La cadena analizada comprende seis etapas: sistemas de apoyo a la decisión, vigilancia, inteligencia e identificación, selección de objetivos, ataques y evaluaciones posteriores. Según el informe, la participación humana puede ser limitada en varias de ellas.

El documento cita un libro reciente sobre la inteligencia artificial militar de Estados Unidos. De acuerdo con ese material, en algunas operaciones solo dos de las seis etapas involucrarían actualmente a seres humanos, mientras una tercera tendría algún tipo de supervisión humana.

Errores posibles en cada etapa

El resto de las etapas estaría completamente automatizado en esos casos. Esta distribución plantea dudas sobre la capacidad real de una persona para detener una decisión errónea cuando el sistema ya ha procesado grandes volúmenes de información.

Airwars advierte que los errores en la selección de objetivos han sido ampliamente documentados. Por ello, el informe plantea si la incorporación de inteligencia artificial podría hacer que esos fallos sean más frecuentes o más difíciles de detectar.

En la fase de apoyo a la decisión, el riesgo está relacionado con la fiabilidad y la precisión de las herramientas utilizadas para recopilar y organizar datos. Una recomendación incorrecta puede influir en todas las etapas posteriores.

Durante la vigilancia, los sistemas pueden procesar mensajes de texto y recurrir a traducciones automáticas. Un error de traducción podría alterar el significado de una comunicación y afectar la interpretación de la conducta de una persona.

El informe también examina sistemas de puntuación de riesgo construidos a partir de evaluaciones algorítmicas de datos en redes sociales. Estos modelos pueden convertir publicaciones, conexiones o patrones digitales en señales que influyan en la identificación de un objetivo.

La visión por computadora introduce otro punto vulnerable. Las herramientas pueden identificar erróneamente objetos y personas, especialmente cuando operan con imágenes incompletas, condiciones cambiantes o información contextual limitada.

En los ataques con drones, las redes neuronales recurrentes pueden enfrentar limitaciones cuando existen problemas con el GPS o interferencias electrónicas. La pérdida o distorsión de señales puede complicar la navegación y la interpretación del entorno.

La evaluación posterior al ataque tampoco queda fuera de los riesgos. Los sistemas asistidos por IA pueden presentar problemas al estimar daños, distinguir objetivos o determinar las consecuencias de una operación.

El desafío de mantener a un humano en el proceso

La cadena descrita no pretende representar de forma exacta las operaciones de un ejército particular. Goodfriend explicó que construir una reconstrucción ficticia era necesario para evitar afirmaciones exageradas sobre sistemas reales, muchos de los cuales son secretos o están censurados.

La investigadora del Pembroke College de la Universidad de Cambridge también señaló que los periodistas no pueden abrir con facilidad el funcionamiento de las herramientas militares propietarias. Esa falta de visibilidad dificulta evaluar cuándo interviene la IA y qué peso tiene en una decisión.

En una entrevista con The Register, Goodfriend cuestionó el enfoque que se concentra en un único sistema de armas o en una empresa concreta. A su juicio, la discusión debe considerar la pila completa de tecnologías que transforma la vigilancia, la selección de objetivos y las operaciones de ataque.

La autora mencionó como ejemplos los sistemas autónomos de drones y las herramientas de detección de anomalías. Sin embargo, el énfasis del informe no está en esos productos individuales, sino en la manera en que varias tecnologías pueden funcionar juntas o fallar en distintos puntos de la cadena.

La intervención humana también puede ser menos efectiva de lo que sugieren expresiones como “humano en el proceso”. Un operador podría revisar un resultado, pero carecer del tiempo, la información o las herramientas necesarias para cuestionar cada dato que generó el sistema.

Goodfriend destacó el llamado sesgo de automatización. Bajo la presión de tiempo propia de una guerra, los operadores pueden sentirse inclinados a aceptar la recomendación de una máquina porque resulta más rápida y sencilla que revisar manualmente todos los elementos.

Ese problema puede aparecer incluso cuando una persona examina un perfil de riesgo basado en una publicación en redes sociales. Si el contenido fue traducido automáticamente, el operador podría no tener tiempo suficiente para confirmar que la traducción conserva el significado original.

Transparencia, errores inherentes y consecuencias civiles

La falta de transparencia representa un desafío para los civiles que viven en zonas de conflicto. Las personas afectadas pueden no saber qué datos se recopilaron, cómo se interpretaron ni qué sistema contribuyó a una decisión determinada.

Goodfriend afirmó que la pila de sistemas de IA integrada en la guerra está rodeada de publicidad y misticismo. También sostuvo que quienes fabrican o despliegan esas herramientas rara vez detallan cómo funcionan y qué implican para las comunidades expuestas a sus operaciones.

El informe pretende mostrar el papel de las enormes cantidades de datos y de la información privada en la guerra automatizada. La vigilancia pasiva puede convertirse en la base sobre la cual se construyen decisiones que luego adquieren consecuencias físicas.

Para Airwars, explicar visualmente la cadena puede ayudar a impulsar un mayor escrutinio público. La reconstrucción permite observar que el riesgo no depende únicamente de un arma autónoma, sino de la interacción de múltiples sistemas de software, sensores y modelos.

La organización también busca que el público cuestione las afirmaciones oficiales sobre la participación humana. La presencia formal de un operador no garantiza que pueda comprender, supervisar o revertir una recomendación producida por algoritmos.

Otra conclusión central del informe es que los sistemas de aprendizaje automático cometen errores. Goodfriend sostuvo que esas fallas no deben considerarse solamente problemas iniciales que desaparecerán cuando la tecnología madure.

Según la investigadora, existen limitaciones inherentes al aprendizaje automático que impiden que estos sistemas realicen de forma confiable todas las tareas que los ejércitos esperan asignarles en el campo de batalla. Esa advertencia adquiere especial peso cuando una clasificación equivocada puede afectar la vida de civiles.

La discusión conecta con debates más amplios sobre responsabilidad, trazabilidad y supervisión en sistemas de inteligencia artificial. Sin información pública suficiente, resulta difícil determinar quién debe responder cuando una cadena automatizada produce un resultado incorrecto.

El trabajo de Airwars no presenta una descripción operativa de un ejército específico. Su aporte consiste en ofrecer un mapa de riesgos para comprender cómo la vigilancia, los datos, los modelos y las armas pueden integrarse en un proceso que cada vez deja menos espacio para la intervención humana efectiva.

Imagen original de DiarioBitcoin, creada con inteligencia artificial, de uso libre, licenciada bajo Dominio Público.

Este artículo fue escrito por un redactor de contenido de IA y revisado por un editor humano para garantizar calidad y precisión.


ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín

Artículos Relacionados