Por Canuto  

AWS lanzó Strands Box, un sandbox de código abierto que combina aislamiento del sistema operativo con reglas capaces de considerar las acciones previas de un agente de IA. La herramienta busca reducir riesgos como borrados no autorizados, publicaciones repetitivas o llamadas costosas a API, aunque la compañía reconoce que la supervisión humana sigue siendo necesaria.
***

  • Strands Box utiliza Dogwood Local Engine para evaluar acciones de agentes según políticas y actividad previa.
  • La herramienta puede limitar operaciones como publicaciones en Slack, Git push y solicitudes a API.
  • Está disponible para macOS; Linux sigue en desarrollo y AWS no fijó fechas para Windows ni para despliegues en otras plataformas.

 

El sandbox de código abierto añade reglas contextuales al aislamiento tradicional y busca frenar acciones autónomas que podrían causar daños operativos.

AWS presentó Strands Box, una herramienta de código abierto para confinar agentes de inteligencia artificial y controlar las operaciones que ejecutan mediante herramientas. La propuesta combina aislamiento a nivel del sistema operativo con políticas que pueden tomar en cuenta tanto la acción solicitada como la actividad anterior del agente, un enfoque que busca ir más allá de impedir el acceso a ciertos recursos.

La compañía enmarca el lanzamiento como una respuesta al uso de agentes que actúan con poca revisión humana, una dinámica que su equipo describe como operar en “modo YOLO”. El riesgo, según la explicación de AWS, no consiste únicamente en que un agente obtenga acceso a una herramienta, sino en que la use de una manera no deseada, como eliminar una base de datos de producción o realizar acciones en internet sin límites contextuales.

Del aislamiento a las reglas sobre cada acción

Los contenedores y las máquinas virtuales pequeñas, o microVM, se usan habitualmente para separar procesos y reducir el alcance de un incidente. AWS sostiene que ese aislamiento, por sí solo, no necesariamente impone reglas sobre el contexto en que un agente invoca una herramienta: una operación puede mantenerse dentro de un entorno confinado y aun así exceder lo que sus responsables pretendían permitir, detalla The Register.

Strands Box intenta cubrir esa diferencia mediante controles que consideran el historial de eventos, además de la solicitud actual. Para ello integra Dogwood Local Engine, que aporta al motor de políticas una dimensión temporal y permite evaluar no solo qué intenta hacer el agente, sino también qué acciones realizó antes. En su presentación de Dogwood, AWS describe políticas que pueden especificar qué acciones se permiten y bajo qué condiciones temporales; The Register también informó que el motor comprueba las llamadas a herramientas antes de que se ejecuten.

La compañía plantea como ejemplo que un agente podría tener permiso para publicar actualizaciones de estado en Slack, pero solo hasta tres veces en diez minutos. Ese límite busca evitar que una automatización sature a los operadores humanos con mensajes, y muestra cómo una política puede autorizar una tarea sin conceder libertad ilimitada para repetirla.

Un portavoz de AWS señaló que el mismo mecanismo podría regular cuándo un agente puede hacer un Git push o imponer topes a las llamadas a API. En este último caso, el control apunta a evitar que una secuencia de solicitudes termine generando costos elevados; sin embargo, la fuente no especificó tarifas, límites predeterminados ni una estimación del ahorro posible.

Herramientas visibles y políticas que no dependen del agente

Strands Box también incorpora Strands Shell y Monty para Python, con los que las operaciones de consola y de Python quedan expuestas al motor de políticas Dogwood y al historial de eventos. La intención es ofrecer a los desarrolladores una visión más clara de lo que intenta hacer el agente y permitir que las reglas respondan a operaciones concretas, en lugar de depender únicamente de instrucciones generales.

Marc Brooker, vicepresidente e ingeniero distinguido de AWS y uno de los creadores de Dogwood y Strands Box, explicó a The Register que los intérpretes ayudan a hacer más inteligible el comportamiento de los agentes. Según Brooker, los intérpretes de Shell y Python pueden exponer operaciones como la eliminación de archivos, mientras que las pasarelas muestran solicitudes de API y llamadas a herramientas.

Con esa información, las políticas pueden considerar la operación que el agente intenta ejecutar y su actividad previa. La diferencia práctica es relevante: una regla podría evaluar una eliminación como tal, en lugar de limitarse a comprobar si el agente tiene acceso general al sistema de archivos, aunque la eficacia de cada control dependerá de cómo los desarrolladores configuren las políticas y los permisos.

Brooker afirmó que Box aplica las reglas de forma determinista y que el agente no puede negociar para eludirlas ni depende de que siga voluntariamente las instrucciones. Esa garantía se refiere a la aplicación de las políticas configuradas, no a que toda decisión automatizada vaya a producir el resultado esperado; AWS reconoció que incluso con permisos apropiados una acción del agente puede tener consecuencias no deseadas.

Disponibilidad inicial y límites de la protección

El lanzamiento busca equilibrar la capacidad de los agentes para realizar tareas con límites que ayuden a prevenir incidentes. Brooker dijo que los desarrolladores continúan siendo responsables de decidir a qué recursos dar acceso y en qué situaciones hace falta una revisión humana, por lo que el sandbox no elimina la necesidad de supervisión ni sustituye las decisiones de quienes implementan el sistema.

AWS también describió la seguridad de los agentes como un área en la que la industria todavía tiene trabajo pendiente. Brooker expresó el compromiso de la compañía de seguir invirtiendo en estas protecciones tanto dentro de su nube como mediante iniciativas de código abierto, sin presentar Strands Box como una solución definitiva para todos los riesgos asociados a la IA agéntica.

La herramienta es compatible, según AWS, con cualquier agente o entorno de ejecución que se quiera confinar dentro de sus límites y ya está disponible en GitHub para macOS. El soporte para Linux continúa en desarrollo, mientras que AWS dijo que un cliente para Windows está en sus planes, aunque no comunicó una fecha de lanzamiento.

La compañía también tiene previsto llevar el despliegue a plataformas como AgentCore, ECS y Kubernetes, pero no anunció calendarios para esas integraciones. Por ahora, la disponibilidad para macOS marca el alcance confirmado del lanzamiento, mientras que la llegada a otros sistemas y entornos sigue pendiente.

Strands Box propone una capa de control más detallada que el aislamiento tradicional: autoriza operaciones, impone límites y puede incorporar lo que el agente ya hizo a la evaluación de nuevas solicitudes. Su utilidad dependerá de políticas bien diseñadas y permisos prudentes, así como de mantener intervención humana cuando las consecuencias de una acción autónoma puedan ser relevantes.

Imagen original de DiarioBitcoin, creada con inteligencia artificial, de uso libre, licenciada bajo Dominio Público.

Este artículo fue escrito por un redactor de contenido de IA y revisado por un editor humano para garantizar calidad y precisión.


ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín

Artículos Relacionados