Por Canuto  

Nvidia presentó Open Agent Safety Platform, una plataforma que combina OpenShell —un software de ejecución para establecer límites a los agentes— con el diseño de referencia Sentry. La compañía afirma que Sentry puede poner en cuarentena en milisegundos a un agente que intente exceder sus límites.
***

  • OpenShell, disponible bajo licencia Apache 2.0, establece límites sobre las acciones de los agentes y forma parte de Open Agent Safety Platform.
  • La arquitectura distribuye el trabajo entre los sistemas Vera Rubin, las CPU Vera y las unidades BlueField-4, asociadas al diseño de referencia Sentry.
  • Anthropic, OpenAI, Meta, Google, Microsoft, empresas de seguridad y proveedores de infraestructura figuran entre los participantes o compatibles con la propuesta.

Nvidia presenta una plataforma de hardware y software para controlar agentes de IA

Una arquitectura que combina software y hardware

Nvidia presentó Open Agent Safety Platform, una plataforma de referencia para ejecutar agentes de inteligencia artificial dentro de límites definidos, desde infraestructura empresarial hasta equipos perimetrales. El anuncio se realizó el miércoles durante la conferencia GTC Berlín y la compañía indicó que el diseño ya está disponible, con empresas como Anthropic, OpenAI, Meta, Microsoft, Google Cloud y AWS trabajando con la propuesta.

La plataforma combina OpenShell, un software de ejecución de código abierto que establece restricciones sobre lo que un agente puede hacer, con Sentry, un diseño de referencia para supervisar y controlar su actividad. Nvidia señaló que publica OpenShell bajo la licencia Apache 2.0; la empresa no comunicó precios para la nueva arquitectura.

La propuesta responde a un problema práctico del despliegue de agentes: estos sistemas pueden ejecutar tareas y utilizar herramientas, por lo que las empresas necesitan establecer qué acciones tienen permitidas y cómo supervisarlas. En vez de presentar OpenShell como un modelo de IA, Nvidia lo describe como una capa de control alrededor de los agentes y de las herramientas que utilizan.

La compañía plantea que la arquitectura abarque tanto centros de datos como máquinas perimetrales, es decir, equipos que ejecutan cargas cerca de sus usuarios o de los sistemas con los que interactúan. El diseño contempla sistemas RTX Spark, DGX Spark y DGX Station, además de la infraestructura empresarial; la semana anterior, Nvidia también había mostrado portátiles RTX Spark pensados para ejecutar agentes localmente.

El papel de Vera Rubin, Vera y BlueField-4

En la arquitectura descrita por Nvidia, los modelos se ejecutan en los sistemas Vera Rubin, mientras que el software que impulsa a los agentes y sus herramientas corre en las CPU Vera. Las unidades de procesamiento de datos BlueField-4, por su parte, forman parte del diseño de referencia Sentry, concebido para observar el comportamiento del agente desde fuera del sistema principal.

Según Nvidia, si un agente intenta salir de los límites establecidos por el software, Sentry puede ponerlo en cuarentena y detenerlo en cuestión de milisegundos. La empresa también afirma que el sistema eleva la capacidad del agente hasta en un 20%; la información disponible no detalla cómo se midió esa mejora ni bajo qué cargas de trabajo se obtuvo.

El fundador y director ejecutivo de Nvidia, Jensen Huang, resumió la distribución de tareas con una frase: “Los agentes pueden pensar en Rubin, actuar en Vera y ser gobernados en BlueField”. La descripción presenta la seguridad como parte de la arquitectura informática y no únicamente como una política que la empresa usuaria configure por separado.

Huang sostuvo también que “la capacidad y la seguridad de la IA deben avanzar juntas” y que, ante la posibilidad de desplegar miles de millones de agentes, el control debe integrarse en la computación. La semana anterior, el ejecutivo dijo que cortaría el suministro a clientes que construyan IA insegura, aunque el anuncio de Open Agent Safety Platform no especificó cómo se vincula esa advertencia comercial con la aplicación técnica de los controles.

Empresas y plataformas que se suman

Nvidia afirmó que agentes de Anthropic, Cohere, Google, Meta, OpenAI, Perplexity, Reflection y SpaceX Super Intelligence podrán ejecutarse en infraestructura OpenShell. La lista incluye compañías que desarrollan modelos o agentes, pero el anuncio no precisa qué integraciones ya están operativas ni cuáles siguen en preparación.

En seguridad informática, 1Password, Check Point, CrowdStrike, Cisco, Fortinet, Okta, Palo Alto Networks y Zscaler están incorporando compatibilidad con la arquitectura, según Nvidia. Su participación apunta a integrar los controles de agentes con herramientas y servicios de seguridad empresarial, aunque la compañía no detalló el alcance técnico de cada implementación.

La relación entre Nvidia y Anthropic tiene un antecedente: desde septiembre, Claude Managed Agents, el servicio de Anthropic para ejecutar agentes Claude, trabaja con OpenShell. Anthropic explicó entonces que la combinación permite a las empresas limitar las acciones de esos agentes y registrar cada una de ellas, dos funciones que ayudan a mantener supervisión sobre su actividad.

BBVA y Santander están explorando la propuesta para reforzar la seguridad y la gobernanza de agentes, mientras SAP la integra en su entorno de ejecución Joule Studio. ServiceNow, por su parte, anunció el miércoles la disponibilidad general de Arc, un agente personal de larga duración cuyas acciones, según la información divulgada, quedan sujetas a los controles de OpenShell.

Compatibilidad, alcance y asuntos pendientes

El diseño funciona en Linux y Kubernetes de Canonical, SUSE y Red Hat, y también en Windows mediante Microsoft Execution Containers. En servicios de nube, Nvidia menciona AWS, Google Cloud y Microsoft Azure; Dell, Cisco, HPE, Lenovo y Supermicro están desarrollando infraestructura compatible.

Ese conjunto de compatibilidades busca que OpenShell no dependa de un único sistema operativo o proveedor de nube. Para las empresas, la amplitud de la lista podría facilitar pruebas en entornos existentes, pero la noticia no especifica qué productos concretos estarán disponibles primero ni qué requisitos tendrá cada despliegue.

La presentación se produce después de que Nvidia anunciara la semana anterior planes para acuerdos europeos por USD $2.000 millones. Esa cifra corresponde a esos acuerdos, no a una inversión específica en Open Agent Safety Platform, y la compañía tampoco publicó precios para la arquitectura de referencia, por lo que aún no es posible calcular el costo de adoptarla.

Open Agent Safety Platform combina OpenShell, para establecer límites, con el diseño Sentry, que Nvidia presenta como una capa de supervisión y aislamiento. Sin embargo, los anuncios disponibles no describen evaluaciones independientes, condiciones de rendimiento ni los límites exactos de Sentry, aspectos que serán relevantes para valorar cómo funciona la protección en implementaciones reales.

Imagen original de DiarioBitcoin, creada con inteligencia artificial, de uso libre, licenciada bajo Dominio Público.

Este artículo fue escrito por un redactor de contenido de IA y revisado por un editor humano para garantizar calidad y precisión.


ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín

Artículos Relacionados