Por Canuto  

Modal planea ejecutar sus sandboxes de agentes de IA en la CPU Vera de Nvidia y asegura que, en pruebas internas con contenedores, el chip completó hasta el doble de tareas que un servidor Intel. La compañía no ha anunciado cuándo ofrecerá el servicio a sus clientes y los resultados aún no cuentan con verificación independiente.
***

  • Modal informó que Vera completó hasta el doble de tareas que un servidor Intel en una prueba con contenedores, aunque no siempre aventajó a sus rivales en ejecuciones individuales.
  • La iniciativa supone la primera incursión de Modal fuera de x86 y requiere adaptar parte de su infraestructura a la arquitectura Arm.
  • La compañía no anunció una fecha para ofrecer a sus clientes sandboxes impulsados por Vera.

 

Una migración más allá de x86

Modal planea ejecutar sus sandboxes para agentes de inteligencia artificial en Vera, la CPU de Nvidia basada en la arquitectura Arm. La compañía asegura que, en sus propias pruebas con contenedores, el procesador llegó a completar hasta el doble de tareas que un servidor Intel. Los resultados son internos y todavía no cuentan con verificación independiente. Modal anunció la iniciativa en una entrada de blog publicada el lunes 19 de octubre.

El paso también representa la primera incursión de Modal fuera de los procesadores x86, arquitectura asociada en este caso con chips de Intel y AMD. Al adoptar Arm, la compañía tendrá que adaptar parte de su infraestructura y el sistema con el que crea imágenes de software para sus entornos. Modal indicó que Nvidia entregó a su oficina de San Francisco el primer servidor equipado con Vera la semana pasada, detalla TNW.

Los sandboxes son entornos informáticos aislados en los que los agentes de IA pueden ejecutar el código que generan. Esas tareas pueden variar de forma abrupta: un agente quizá permanezca inactivo mientras espera una respuesta de un modelo y luego requiera mucha más capacidad informática durante la instalación de un programa, según explicó Modal.

El reto crece cuando cientos de sandboxes funcionan de manera simultánea en un mismo servidor. Si varios clientes elevan su demanda al mismo tiempo, el pico de actividad de uno puede ralentizar el trabajo de otro. Modal presenta la capacidad de atender esas variaciones como una razón para evaluar Vera, aunque sus datos describen pruebas de la propia empresa y no una comparación independiente del rendimiento en producción.

Qué midió Modal y qué dicen sus resultados

Para comparar los procesadores, Modal elaboró una prueba con 50 tareas de programación, entre ellas compilar software y buscar archivos. Al ejecutar las tareas una por una, Vera fue con frecuencia más rápido que los chips de Intel, AMD y Amazon, aunque no en todos los casos y sin que la diferencia siempre fuera amplia. El resultado más destacado apareció bajo una condición específica: la ejecución con contenedores.

Cuando Modal configuró el servidor con contenedores, la distancia entre Vera y los procesadores rivales aumentó, de acuerdo con la empresa. Modal sostuvo que Vera mantuvo el ritmo de finalización de las tareas, mientras que los otros chips alcanzaron un límite de rendimiento. La compañía atribuyó esa diferencia al alto ancho de banda de memoria de la CPU, pero la información compartida no valida de forma independiente esa explicación ni permite generalizarla a cualquier carga de trabajo.

La cifra de hasta 2 veces, por tanto, se refiere a una prueba concreta y no demuestra que Vera sea el doble de rápido en todas las aplicaciones de IA. Modal indicó que su benchmark incluyó cargas que considera representativas de sus sandboxes; aun así, el rendimiento puede variar según las tareas y la configuración de los servidores.

La empresa señaló dos usos potenciales para esta capacidad: los agentes de programación que trabajan en segundo plano y el aprendizaje por refuerzo. En este último proceso, explicó Modal, las GPU pueden permanecer inactivas mientras esperan a que termine el trabajo de la CPU. Si una CPU reduce esos tiempos de espera, podría ayudar a mantener ocupados otros componentes, aunque la compañía no ofreció una medición cuantitativa del ahorro o de la mejora que Vera aportaría a ese flujo.

La apuesta comercial y lo que falta por confirmar

Modal todavía no especificó cuándo llegarán a sus clientes los sandboxes impulsados por Vera. Antes de ofrecerlos, la compañía tendrá que realizar los ajustes de infraestructura y de creación de imágenes de software que implica el cambio a Arm, además de evaluar cómo responde el servicio en cargas reales.

Nvidia presentó Vera como una CPU diseñada para agentes de IA y señaló que tiene 88 núcleos. La empresa ha nombrado a Anthropic y OpenAI entre los usuarios que exploran el procesador. Estos anuncios reflejan interés en la CPU, pero no sustituyen una evaluación comparable e independiente de su rendimiento.

La prueba de Modal ofrece un argumento inicial para considerar la migración, pero su alcance práctico dependerá de cómo funcione el servicio en producción y de futuras pruebas que permitan contrastar la afirmación. Por ahora, el dato de hasta el doble de tareas debe entenderse como el resultado comunicado por la empresa para una carga específica, no como una medida general del desempeño de Vera.

Imagen original de DiarioBitcoin, creada con inteligencia artificial, de uso libre, licenciada bajo Dominio Público.

Este artículo fue escrito por un redactor de contenido de IA y revisado por un editor humano para garantizar calidad y precisión.


ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín

Artículos Relacionados