Por Canuto  

Un experimento con GPT-6 Astra halló que agentes de IA podían completar tareas aritméticas al consultar resultados escritos por otros en un almacén compartido, aunque sus instrucciones no les decían que estaban colaborando.
***

  • Con una instrucción para revisar el espacio de trabajo, los agentes emparejados acertaron juntos en 49 de 50 pruebas en una implementación y en 47 de 50 en otra.
  • Con almacenes privados, el éxito conjunto cayó a cero de 50 en ambas implementaciones; sin la instrucción de revisión, el acceso al trabajo ajeno casi desapareció.
  • El estudio demuestra acceso e influencia útil del estado compartido, pero no prueba intención de comunicarse ni mide la frecuencia del fenómeno en sistemas desplegados.

Agentes de inteligencia artificial lograron completar tareas aritméticas aprovechando resultados que otro agente había guardado en un espacio de trabajo común, pese a que sus instrucciones no mencionaban la existencia de compañeros ni una colaboración. El experimento, descrito en un preprint fechado el 9 de noviembre por Pekka Abrahamsson y siete coautores de la Universidad de Tampere, apunta a una consecuencia concreta del diseño de sistemas multiagente: una memoria compartida puede funcionar como canal de intercambio, incluso si se presenta como una herramienta para conservar cálculos intermedios.

En una extensión del experimento con GPT-6 Astra, el éxito conjunto de dos agentes con tareas dependientes alcanzó 49 de 50 pruebas en una implementación del almacén y 47 de 50 en una segunda, cuando recibieron la indicación de revisar de nuevo su espacio de trabajo antes de responder. Con la misma instrucción, pero usando almacenes privados, ninguna pareja resolvió correctamente ambas partes en las 50 pruebas de cada implementación. La diferencia sugiere que el contenido compartido permitió completar las tareas, aunque no demuestra que los agentes buscaran comunicarse deliberadamente.

Un almacén de borrador que conectó tareas incompletas

El equipo diseñó escenarios con cuatro agentes y problemas aritméticos breves. Dos agentes recibían partes complementarias de una tarea: cada uno podía calcular un valor, pero necesitaba el resultado del otro para dar una respuesta final correcta. Los otros dos tenían tareas autosuficientes, de modo que no necesitaban consultar trabajo ajeno para resolver sus propios problemas. El diseño permitió observar si la información disponible en un espacio común podía cerrar la brecha entre los dos agentes dependientes.

El espacio de trabajo funcionaba como un almacén de borrador clave-valor, presentado a los agentes como una comodidad para guardar trabajo intermedio. Ellos podían listar las claves disponibles, leer y escribir valores, y enviar una respuesta, todo dentro de un límite de 20 pasos. Los prompts no decían que otros agentes utilizaran el mismo almacén ni sugerían que debían compartir información, pero los nombres de variables incluidos en las tareas daban pistas sobre qué resultados podían buscar.

La comparación central enfrentó almacenes compartidos con almacenes privados, sin alterar los prompts ni las herramientas disponibles. En el primer caso, un agente podía encontrar el resultado escrito por su compañero; en el segundo, cada agente veía su propia información y no podía recuperar el valor faltante por esa vía. Los agentes seguían guardando resultados intermedios en ambas condiciones, por lo que la diferencia no fue que dejaran de usar el espacio, sino que el estado privado impedía que la información de uno llegara al otro.

La medida de éxito conjunto exigía que los dos agentes con tareas interdependientes enviaran respuestas correctas. Ese criterio importa porque una lectura aislada de datos ajenos no bastaba para contar la tarea como resuelta: debía traducirse en una respuesta correcta de ambos agentes emparejados. El diseño, sin embargo, incluyó variables nombradas por la tarea y operaciones aritméticas controladas, condiciones que hacen más fácil reconocer información pertinente que en muchos entornos reales.

La instrucción de revisar cambió los resultados

Con GPT-6 Astra y la indicación «revisa tu espacio de trabajo nuevamente antes de enviar», los agentes accedieron entre sí al contenido del almacén en las 50 pruebas de cada implementación. El éxito conjunto llegó a 49 de 50 casos en la implementación de referencia y a 47 de 50 en la segunda. Por tanto, el resultado no solo refleja que existiera un espacio común: también muestra que una instrucción específica para volver a inspeccionarlo coincidió con un acceso mucho más frecuente a los datos disponibles.

Al retirar esa cláusula, el acceso entre agentes cayó a una de 50 pruebas en cada implementación. El éxito conjunto fue de una de 50 en la primera y de cero de 50 en la segunda. Los datos muestran que una oportunidad de revisión adicional fue determinante en estas configuraciones: si los agentes no volvían a mirar el almacén, rara vez encontraban el trabajo que otro había dejado después de su primera inspección.

La condición de almacenes privados refuerza la interpretación de que el contenido compartido tuvo una influencia causal en el resultado. Con la instrucción de revisión todavía presente, el éxito conjunto fue de cero en 50 pruebas en ambas implementaciones privadas, aunque los agentes conservaron las mismas herramientas y podían escribir sus propios valores. La comparación permite distinguir entre el simple uso de una memoria de trabajo y el acceso efectivo a información aportada por otro agente.

Los resultados describen una capacidad práctica, no una intención. Que un agente lea un valor de otro puede deberse a que reconoció una clave útil, a una colisión accidental entre nombres o a una búsqueda guiada por las variables de la tarea; el experimento no establece cuál de esas explicaciones motivó cada lectura. Los autores observan el acceso y muestran que la disponibilidad compartida ayudó a resolver las tareas emparejadas, pero no afirman haber demostrado una voluntad autónoma de coordinarse.

Qué permite concluir y qué queda fuera del estudio

La segunda implementación se reconstruyó a partir de un protocolo escrito, sin compartir el código de implementación, y la desarrolló otro investigador del mismo grupo de autores. Esta repetición ofrece una comprobación adicional dentro del equipo, aunque no equivale a una replicación independiente por investigadores externos. El artículo también registra desviaciones respecto al orden de bloqueo previsto y señala que resultados tempranos de una réplica con redacción distinta llegaron al experimentador original antes de gran parte de la recopilación de datos de referencia.

El comportamiento también varió según los modelos y las decisiones de implementación, de acuerdo con la descripción del estudio, aunque los resultados destacados para GPT-6 Astra no permiten extrapolar el mismo desempeño a otros agentes. Tampoco indican cuántas veces ocurre un intercambio parecido en productos desplegados, donde pueden cambiar los prompts, las herramientas, la estructura de las memorias y las tareas. La escala acotada y el uso de problemas aritméticos limitan cualquier afirmación general sobre agentes de IA en entornos abiertos.

La implicación para quienes construyen sistemas multiagente es más acotada, pero relevante: cachés, directorios de borrador y servicios de memoria compartidos pueden transportar información entre procesos aunque la interfaz los describa como utilidades individuales. Si la separación entre agentes es importante, los diseñadores pueden aislar esos recursos; cuando compartir sea apropiado, pueden usar espacios de nombres y registrar quién escribió cada valor. Son medidas recomendadas por los autores para hacer más visible y controlable el flujo de información.

El hallazgo no trata de una memoria que conserve un permiso de una tarea anterior, sino de agentes separados que encuentran datos dentro de un estado común mientras resuelven tareas simultáneas. Esa diferencia ayuda a precisar el riesgo: el canal puede surgir de la arquitectura del espacio de trabajo, sin que el prompt anuncie una colaboración. Aun así, el experimento no prueba un comportamiento malicioso ni permite calcular la frecuencia de intercambios involuntarios fuera de las condiciones evaluadas.

En su cobertura del estudio, CryptoSlate destacó la brecha entre el almacén compartido y el privado, así como el peso de la instrucción de revisión. La conclusión más sólida es que el diseño de la memoria puede afectar qué información está disponible para cada agente y, por esa vía, el resultado de una tarea conjunta. Determinar cuándo ese acceso es esperado, accidental o indeseado requerirá pruebas en escenarios más diversos y con evaluaciones capaces de separar el uso útil de la intención de comunicar.


ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín

Artículos Relacionados