Por Canuto  

Microsoft anunció controles para que los agentes de IA en Microsoft 365 E7 comiencen con acceso mínimo y pierdan permisos a medida que crezca el riesgo. La compañía también amplía su capacidad para identificar agentes y plantea supervisar sus acciones antes de que se ejecuten.
***

  • Los Permisos Dinámicos asignan a cada agente solo el acceso necesario para una tarea y durante el tiempo que esta dure.
  • El riesgo se evalúa continuamente y puede activar restricciones, aprobación humana o la detención del agente.
  • Microsoft ampliará a 60 los tipos de agentes que puede detectar, pero no informó cuándo estarán disponibles las funciones ni su costo.

Microsoft refuerza los controles para sus agentes de IA en Microsoft 365 E7

Microsoft anunció herramientas para limitar y vigilar los agentes de inteligencia artificial en Microsoft 365 E7 y Project Perception. El paquete combina permisos temporales, evaluaciones continuas de riesgo y controles que pueden reducir las capacidades de un agente o detenerlo.

La propuesta parte de una preocupación empresarial concreta: estos sistemas pueden interactuar con datos, herramientas y servicios internos, pero también podrían recibir más acceso del necesario o actuar de forma inesperada. Microsoft sostiene que la supervisión debe considerar no solo lo que un agente recibe y produce, sino también el razonamiento que guía sus decisiones.

Permisos que se ajustan a cada tarea

La principal novedad anunciada es Permisos Dinámicos, o Dynamic Permissions, un mecanismo que busca evitar que un agente conserve privilegios amplios de manera permanente. Según la compañía, cada agente empieza sin acceso propio y obtiene únicamente los permisos necesarios para completar una tarea, limitados al tiempo que esta requiere.

La regla descrita por Microsoft establece que un agente nunca debe recibir acceso que no posea dentro de los límites autorizados. En la práctica, la empresa presenta el permiso como una autorización acotada a una actividad, en lugar de una llave general para consultar o modificar recursos corporativos.

Ese enfoque cobra importancia porque un agente puede necesitar consultar información o usar una herramienta para cumplir una instrucción, pero no necesariamente conservar esa capacidad después. Microsoft no detalló en la información disponible cómo se configurarán esos permisos en cada organización ni qué tareas podrán activar el sistema, por lo que esos elementos siguen sujetos a los detalles de implementación.

La compañía encuadra esta iniciativa en una política de seguridad que trata a los agentes como posibles miembros internos con acceso a sistemas sensibles. Hayete Gallot, vicepresidenta ejecutiva de Seguridad de Microsoft, escribió que las empresas deben vigilarlos como a sus propios insiders, dado que pueden manejar datos y herramientas y, a la vez, comportarse de maneras inesperadas.

Evaluación continua y restricciones escalonadas

Microsoft también anunció Dynamic Agent Risk, una función que califica continuamente a cada agente en función de señales vinculadas con su identidad, los datos que utiliza, los dispositivos, la nube, la red y sus propias acciones. La evaluación pretende ofrecer una lectura cambiante del riesgo, en vez de depender únicamente de una revisión inicial antes de conceder acceso.

Ese puntaje puede activar Dynamic Conditional Access, que extiende a los agentes los controles de acceso condicional de Entra. La respuesta, según Microsoft, puede graduarse de acuerdo con el riesgo: el agente podría perder la capacidad de modificar archivos y conservar solo la lectura, o quedar excluido de determinados datos.

En situaciones que requieran más cautela, el sistema también puede exigir que una persona apruebe un paso concreto o detener por completo al agente. La compañía describe así un abanico de medidas que va desde limitar una acción específica hasta interrumpir la operación, aunque no publicó umbrales numéricos para determinar cuándo debe aplicarse cada respuesta.

Nadim Abdo, vicepresidente corporativo de identidad y acceso a la red, detalló las funciones en una publicación separada, mientras que Gallot presentó el enfoque general de seguridad. Ambas comunicaciones se alinean con un ensayo que Satya Nadella publicó a comienzos de este mes, en el que el director ejecutivo planteó que las empresas deben tratar los modelos como riesgos internos.

Más agentes identificados y supervisión con guardianes

Microsoft ampliará su capacidad para encontrar agentes que operan en los dispositivos de los empleados: incorporará 35 tipos adicionales, con lo que el total llegará a 60. Entre los ejemplos mencionados están Claude Code, de Anthropic; Codex, de OpenAI; y GitHub Copilot.

La compañía también indicó que Entra Agent ID asignará a cada agente una identidad propia, separada de la identidad de la persona que lo utiliza. La cobertura incluirá esos productos y otros agentes desconocidos, un punto relevante para identificar sistemas que pueden estar funcionando en los equipos sin quedar representados por una cuenta personal.

Project Perception sumará Playbooks y un equipo de Guardian Agents, o Agentes Guardianes, diseñado para examinar por qué cambió el nivel de riesgo de un agente. Según el resultado, estos supervisores podrán sugerir límites o aplicarlos, con la intención de revisar las acciones antes de que ocurran y no limitarse a observar sus entradas y salidas después de una operación.

Terrell Cox, director adjunto de seguridad de la información de Microsoft, afirmó que la empresa ya opera en un entorno con cientos de miles de agentes. La cifra ayuda a explicar por qué la compañía presenta la identificación y el seguimiento como tareas continuas, aunque no se ofreció un desglose de esos agentes ni de dónde se encuentran desplegados.

Entornos controlados y datos aún pendientes

Otra pieza del enfoque son los sandboxes, entornos aislados en los que pueden ejecutarse los agentes. Microsoft citó Microsoft Execution Container como ejemplo y sostuvo que este tipo de arquitectura mantiene los controles de seguridad fuera del alcance del agente, incluso si alguien logra vulnerarlo.

La separación entre el agente y los mecanismos que lo supervisan busca reducir el riesgo de que un sistema comprometido pueda alterar o eludir sus propias restricciones. La empresa presenta así varias capas complementarias: limitar privilegios, detectar cambios de riesgo, aplicar controles de acceso y aislar la ejecución.

El anuncio no incluyó una fecha para la llegada de las nuevas funciones ni aclaró si tendrán un costo adicional a la licencia de Microsoft 365 E7. Tampoco especificó qué capacidades estarán disponibles primero, de modo que las organizaciones aún no cuentan con un calendario público para evaluar su despliegue.

La cobertura de The Next Web recogió los anuncios y las publicaciones de los ejecutivos de Microsoft, pero los detalles divulgados no resuelven por ahora cómo se administrarán todos los controles en cada entorno empresarial. El paso siguiente será conocer la disponibilidad, las condiciones de licencia y la manera en que las organizaciones podrán ajustar los límites sin interrumpir tareas legítimas.


ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín

Artículos Relacionados