Por Canuto  

El Ejército de EE. UU. seleccionó una propuesta para ECHOTRIBBLE, un programa de agentes de inteligencia artificial que podrían desplazarse por redes informáticas para identificar y neutralizar objetivos. La iniciativa prevé supervisión humana mínima, pero expertos advierten que la ruta hacia un blanco podría atravesar sistemas civiles.
***

  • El Centro de Innovación Cyber Fusion y ArCTIC eligieron una de 65 propuestas técnicas presentadas para el programa.
  • Los documentos públicos describen agentes capaces de operar en redes aisladas, con mínima supervisión humana y potencial foco ofensivo.
  • Especialistas alertan que los sistemas autónomos podrían afectar infraestructuras ajenas mientras se dirigen a sus objetivos.

El Ejército de Estados Unidos avanzó en la selección de una propuesta para ECHOTRIBBLE, un programa que busca desarrollar agentes de inteligencia artificial capaces de recorrer redes informáticas y perseguir objetivos. La herramienta podría operar con supervisión humana mínima, incluso en sistemas aislados o entornos de nube, una combinación que expertos consideran riesgosa si el software se desvía o afecta infraestructura que no debía tocar.

Una propuesta elegida tras evaluar 65 documentos

El Centro de Innovación Cyber Fusion, conocido como CFIC, y el centro tecnológico del Comando Cibernético del Ejército, ArCTIC, eligieron una propuesta el 8 de octubre, según información publicada en el sitio del centro. El CFIC no reveló qué empresa presentó la oferta seleccionada y señaló que el proceso continuará con un documento de trabajo y un contrato, sin precisar públicamente sus términos.

La decisión llegó después de una convocatoria que recibió 65 documentos técnicos de empresas interesadas. Cinco de ellas presentaron sus propuestas ante un equipo evaluador en un evento virtual que se realizó entre el 6 y el 8 de octubre, y todas las compañías fueron informadas sobre el resultado el 13 de octubre.

El esfuerzo está encabezado por Army Cyber Command, o ARCYBER, la unidad del Ejército estadounidense a cargo de operaciones cibernéticas tanto defensivas como ofensivas. El programa ECHOTRIBBLE busca que agentes de IA se muevan por infraestructura informática por cuenta propia, con la capacidad de identificar y neutralizar amenazas u objetivos determinados.

El anuncio de la selección no equivale a que exista ya un sistema desplegado en operaciones reales, ni confirma que la propuesta elegida haya completado un prototipo. Las diapositivas del evento de junio proyectaban la entrega de un prototipo alrededor del 23 de noviembre, aproximadamente seis meses después del inicio previsto de los trabajos, pero la información disponible no confirma que ese calendario se haya cumplido.

Cómo se imaginó el recorrido de los agentes

El CFIC y ArCTIC organizaron un encuentro presencial el 24 de junio en Augusta, Georgia, para explicar el proyecto a posibles participantes. El resumen del evento describía una herramienta que podría desplazarse por infraestructura digital de forma autónoma, mientras la página de la actividad indicaba que debía funcionar con supervisión humana mínima y en sistemas en disputa, aislados de internet o nativos de la nube.

El encuentro reunió a 43 asistentes de 29 organizaciones, entre ellas Dakota State University, Amazon Web Services, el centro C5ISR del Ejército y el 305.º Escuadrón de Operaciones Cibernéticas de la Fuerza Aérea de Estados Unidos. La presencia de instituciones académicas, empresas tecnológicas y unidades militares muestra que el desarrollo reunió actores de distintos ámbitos, aunque no implica que todos participaran luego en la propuesta seleccionada.

Las diapositivas disponibles ilustraban una posible capacidad de propagación entre equipos conectados: el software se instalaría en una computadora portátil, detectaría otros dispositivos de la misma red y copiaría su presencia en un iPad, una computadora de escritorio Apple y un equipo con Windows 11. Se trata de un ejemplo planteado en la presentación, no de una demostración pública de que ECHOTRIBBLE ya pueda realizar esas acciones.

La movilidad entre dispositivos es relevante porque un agente con capacidad de descubrir y alcanzar equipos podría ampliar su radio de acción más allá del punto inicial de acceso. En redes complejas, esa capacidad también vuelve más difícil anticipar qué sistemas encontrará en su trayecto, una distinción importante cuando la misión consiste en perseguir un objetivo sin afectar otros componentes de la infraestructura.

El foco ofensivo y los riesgos de la ruta

Un documento de preguntas y respuestas dirigido a proveedores, descrito por The Intercept, indicaba que las misiones ofensivas eran el foco principal del programa. Según ese material, neutralizar un objetivo podría significar desactivar una amenaza de forma temporal o permanente, o eliminarla del sistema al que se dirige el agente.

El documento planteaba que los agentes podrían desplazarse de un dispositivo a otro dentro de una red extranjera hasta localizar el objetivo asignado. También contemplaba que informaran de sus acciones con el mínimo detalle posible y luego se eliminaran a sí mismos, idealmente antes de que alguien advirtiera su presencia, una secuencia que elevaría las exigencias de control y supervisión.

El Ejército podría definir activadores previos para establecer qué objetivos atacar y en qué lugares hacerlo, de acuerdo con el material citado. Sin embargo, establecer de antemano un blanco no necesariamente determina cada paso que un sistema autónomo tomará para llegar a él, y ahí se concentra una de las principales preocupaciones de los especialistas consultados.

David Krueger, profesor de aprendizaje automático en la Universidad de Montreal, calificó de «increíblemente peligroso» encomendar a sistemas autónomos la tarea de neutralizar amenazas. Hyrum Anderson, director ejecutivo de la empresa de seguridad de IA Abundant, advirtió que un agente podría atravesar sistemas civiles si estos aparecieran en el camino, como los servidores de mando instalados en una compañía de agua estadounidense.

Advertencias sobre autonomía y controles humanos

Anderson resumió el dilema con una pregunta: «El objetivo puede ser alcanzado. Pero ¿qué camino seguirá?». La observación apunta a que el riesgo no depende únicamente de que el agente identifique correctamente su blanco, sino también de los sistemas y redes que encuentre mientras intenta alcanzarlo.

William Marcellino, científico conductual sénior de RAND Corporation, sostuvo que los sistemas de IA públicos actuales carecen del conocimiento del mundo que puede llevar a un soldado a abstenerse de una acción indebida. Su comentario plantea una diferencia entre ejecutar instrucciones técnicas y comprender el contexto, una capacidad crucial cuando una orden de neutralizar una amenaza puede tener consecuencias fuera del objetivo previsto.

ARCYBER no respondió a las preguntas de The Intercept sobre ECHOTRIBBLE, incluida una consulta sobre cómo evitar daños no intencionados. La falta de una respuesta pública deja sin aclarar qué mecanismos concretos limitarían el movimiento de los agentes, cómo se interrumpiría una operación ante una desviación o qué papel tendría una persona en cada decisión crítica.

El mismo día, el teniente general Christopher Eubank habló sobre agentes de IA en la conferencia de la Association of the US Army, en Washington, aunque el reportaje de Federal News Network sobre sus declaraciones no relacionó sus comentarios con ECHOTRIBBLE. Eubank describió la Task Force Lexington, que creó un equipo de agentes para trabajo cibernético defensivo, y afirmó que hasta ese momento ninguno se había desviado gracias a controles de seguridad estrictos.

Eubank dijo que el Ejército trata a cada agente como a un operador humano, pero limita lo que puede hacer mediante un marco estricto, y agregó que personas revisan diariamente el trabajo de los sistemas. Esa descripción se refiere a los agentes de la Task Force Lexington y no confirma que ECHOTRIBBLE vaya a aplicar los mismos controles o a operar con idénticas restricciones.

La discusión también coincide con reportes publicados en octubre sobre planes del Pentágono para crear un Comando de Guerra Autónoma, aunque la información disponible no establece el estado actual de ese proyecto. La selección de una propuesta para ECHOTRIBBLE representa un paso en el desarrollo de capacidades cibernéticas basadas en IA, pero todavía deja abiertas preguntas sobre supervisión, límites operativos y protección de redes civiles.

Imagen original de DiarioBitcoin, creada con inteligencia artificial, de uso libre, licenciada bajo Dominio Público.

Este artículo fue escrito por un redactor de contenido de IA y revisado por un editor humano para garantizar calidad y precisión.


ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín

Artículos Relacionados