Por Canuto  

Nvidia presentó Nemotron 3.5 Super VL, un modelo multimodal abierto de 120.000 millones de parámetros que apunta a agentes empresariales capaces de trabajar de forma continua. La compañía también anunció modelos Bolt más compactos, aunque su ejecución local todavía requiere equipos con una cantidad considerable de memoria.

***

  • Nemotron 3.5 Super VL activa 12.000 millones de sus 120.000 millones de parámetros por token y procesa texto, imágenes, documentos y video.
  • Nvidia sostiene que el modelo ofrece ventajas de velocidad en ciertas pruebas y lo orienta a empresas que quieren ajustar y operar IA con sus propios datos.
  • Las variantes Bolt buscan llevar agentes a equipos locales, pero el modelo de 24 GB todavía apunta principalmente a estaciones de trabajo potentes.

 

Nvidia lanzó Nemotron 3.5 Super VL, un modelo multimodal abierto de 120.000 millones de parámetros que busca atender agentes de inteligencia artificial empresariales, análisis documental y procesos prolongados. La compañía también presentó dos variantes compactas Bolt para equipos locales y dispositivos de borde, con la promesa de acercar esos agentes a computadoras personales, estaciones de trabajo y sistemas especializados.

El anuncio combina una apuesta por modelos abiertos con una estrategia ligada estrechamente al hardware de Nvidia. Según la cobertura de THE DECODER, la empresa publica pesos, conjuntos de datos y recetas de entrenamiento, pero optimiza la familia para sus propios productos, desde GPU de centros de datos hasta equipos compactos.

Un modelo multimodal para agentes de larga duración

Nvidia diseñó Super VL para agentes especializados que permanecen activos en segundo plano y procesan texto, imágenes, documentos y video. Su arquitectura Mixture-of-Experts distribuye el trabajo entre expertos y activa 12.000 millones de parámetros por token, pese a que el modelo completo suma 120.000 millones; esa configuración busca reducir el cómputo necesario en cada paso.

Nvidia enmarca el modelo dentro de Nemotron Coalition, una alianza de laboratorios y desarrolladores de IA que incluye a Mistral AI, Thinking Machines Lab, Perplexity y Black Forest Labs, entre otros. La coalición también reúne a Cursor, LangChain, Reflection AI y Sarvam, según el anuncio de Nvidia. Super VL se integra a una familia que ya incluye Lightning, presentado en agosto para priorizar rendimiento, y Ultra, orientado a tareas de razonamiento difíciles, con cada variante ajustada para hardware de Nvidia.

Nvidia afirma que destiló Super VL a partir de Nemotron 3 Ultra y que, en tareas de seguimiento de instrucciones, uso de herramientas, procesos empresariales de varios pasos y análisis de imágenes, puede igualar la precisión de Ultra con cerca de una quinta parte de sus parámetros. Según la compañía, el nuevo modelo también supera a su antecesor Nemotron 3 Super en SWE-bench y Terminal-Bench, dos pruebas vinculadas con programación.

En las evaluaciones de agentes Hermes y LangChain, Nvidia asegura que Super VL obtiene resultados superiores a Ultra. La empresa también destaca su velocidad en pruebas de Artificial Analysis: sostiene que el modelo puede generar hasta cinco veces más tokens por segundo que otros modelos abiertos de clase comparable y, en una GPU, alcanzar hasta cinco veces el rendimiento de sistemas abiertos de tamaño similar en tareas de agentes.

Las comparaciones no significan que el modelo supere a todos los sistemas disponibles. En la clasificación general de Artificial Analysis queda por detrás de los principales modelos cerrados, aunque supera a Nemotron 3 Ultra, y Nvidia sostiene que completa tareas de programación hasta cuatro veces más rápido pese a una precisión ligeramente menor que la competencia en ese benchmark.

Velocidad, compresión y análisis de documentos

Para reducir los requerimientos de cómputo, Nvidia ofrece una versión comprimida con su formato NVFP4 de cuatro bits. En GPU Blackwell, Super VL puede ejecutarse por completo a esa precisión; en tarjetas más antiguas, la cuantización de cuatro bits se limita a los pesos y los cálculos se realizan a 16 bits, mientras algunas partes sensibles conservan mayor precisión.

La compañía asegura que entrenó la versión comprimida para que sus resultados coincidan con los del modelo sin comprimir, y añadió mecanismos para acelerar la generación. Uno de ellos propone varios tokens por adelantado para que el modelo principal los verifique en una sola pasada; en DGX Spark, Nvidia recomienda LiLiCorr, método que evalúa en conjunto los tokens propuestos y que, según la empresa, puede elevar la velocidad de generación hasta 2,3 veces frente a una ejecución sin borradores especulativos.

El almacenamiento en caché también apunta a reducir trabajo repetido, porque los agentes suelen reenviar instrucciones, descripciones de herramientas y partes del historial en cada consulta. El software Dynamo dirige solicitudes de una misma sesión a la GPU que ya conserva sus cálculos; en un sistema con 16 GPU B200, Nvidia afirma que esa combinación permite atender ocho veces más usuarios concurrentes y recortar 85% el tiempo hasta el primer token.

En visión, Super VL se centra en materiales habituales en empresas, como documentos extensos, tablas, gráficos, OCR y video, sin requerir un modelo de imágenes separado. Nvidia reporta una puntuación de 80,8% en CharXiv, una prueba de comprensión de gráficos, frente a 63% para Nemotron 3 Nano Omni; si el modelo también ejecuta código Python, la puntuación sube a 84%.

La empresa agrega que Super VL se ubica entre los mejores modelos abiertos en OCRBench v2. Sus capacidades multimodales permiten, según Nvidia, interpretar un gráfico, relacionarlo con una tabla en otra parte del documento y resumir ambos elementos, una tarea que podría simplificar revisiones donde la información se reparte entre páginas y formatos distintos.

Bolt acerca los agentes a equipos locales, con límites de memoria

Nemotron 3.5 Bolt 74B-A9B 24GB es una versión simplificada que combina 74.000 millones de parámetros totales con nueve mil millones activos por paso. Nvidia la cuantiza agresivamente a dos bits para ajustarla a 24 GB de memoria y la presenta para tareas locales de varios pasos, como llamar herramientas, buscar en la web, escribir código o depurar programas.

El modelo apunta a RTX Spark, equipo para portátiles Windows con capacidades de IA descrito en el material de origen, y DGX Spark, una estación de trabajo compacta que puede ofrecer hasta 128 GB de memoria compartida. También es compatible con PC GeForce RTX, DGX Station y estaciones de trabajo RTX PRO, además de herramientas como llama.cpp, Ollama, LM Studio y vLLM.

Sin embargo, el requisito de 24 GB deja una barrera de entrada importante para muchos consumidores, pues exige hardware de gama alta y, de acuerdo con el artículo de origen, su costo puede resultar difícil de justificar para un uso personal. Por ahora, el agente local parece más dirigido a desarrolladores y propietarios de estaciones de trabajo potentes que a usuarios con computadoras convencionales.

Nvidia prevé sumar Bolt E4B 4GB más adelante en octubre, con un diseño para tarjetas GeForce RTX, módulos Jetson y equipos RTX o DGX Spark. La empresa lo plantea para asistentes de voz, personajes interactivos e interfaces de dispositivos que puedan sostener conversaciones naturales, usar herramientas en varios turnos y reconocer lo que ocurre en la aplicación activa.

Empresas prueban el modelo en finanzas y ciberseguridad

Nvidia afirma que decenas de organizaciones ya ajustan Super VL a sus operaciones, especialmente en sectores que manejan grandes volúmenes de documentos o datos sensibles. Scale AI adaptó el sistema para un agente de cuentas por pagar de Skydance y, según las proyecciones citadas por Nvidia, espera reducir los costos a una cuadragésima parte y el tiempo de respuesta a una quinta parte.

Ramp utiliza el modelo para transformar fotografías de recibos en datos estructurados y espera respuestas diez veces más rápidas, según la compañía. EY lo aplica a diligencias debidas en adquisiciones, mientras Hebbia lo emplea para analizar acuerdos de crédito, usos que reflejan el interés por automatizar la lectura y extracción de información financiera.

La adopción también alcanza seguridad informática. AI21 ajustó Super VL para Alice, empresa de seguridad que analiza amenazas y vulnerabilidades, y Nvidia atribuye a esa aplicación una mejora de precisión de 40%; Dream utiliza el modelo para buscar vulnerabilidades y CrowdStrike desarrolla agentes destinados a defender redes empresariales.

Otros participantes incluyen a Salesforce, que planea automatizar flujos de trabajo gubernamentales, y R1, que audita facturación médica. Perplexity, Dassault Systèmes y Mercor también usan el modelo, aunque la información publicada no detalla para cada una el alcance específico de sus implementaciones.

La apertura del modelo también impulsa el ecosistema Nvidia

Nvidia ofrece pesos en una versión base, otra posterior al entrenamiento y una variante comprimida a cuatro bits, además de conjuntos de datos, recetas de entrenamiento y entornos de aprendizaje por refuerzo. La empresa dice que el entrenamiento previo y el entrenamiento previo continuo utilizaron más de 25 billones de tokens, mientras que las etapas posteriores añadieron cerca de cuatro millones de ejemplos distribuidos en unos 100 entornos abiertos.

Los conjuntos de datos disponibles abarcan uso de herramientas, seguimiento de instrucciones, textos largos, comprensión de imágenes, finanzas, seguridad y equidad. También incluyen un recurso de idiomas de India creado con el Instituto Indio de Tecnología de Madrás y su laboratorio AI4Bharat, que reúne aproximadamente 2,83 billones de tokens de texto en 22 idiomas del país.

Nvidia sostiene que, tras ajustar Super VL con ese conjunto Indic, el modelo supera en pruebas de idiomas indios a sistemas especializados más grandes, como Sarvam-105B. La compañía también destaca que compartir datos y recetas va más allá de publicar únicamente los pesos, una práctica frecuente entre modelos cuyos desarrolladores no divulgan otros componentes del entrenamiento.

La distribución incluye Hugging Face y el servicio Nvidia NIM, que ofrece el modelo como microservicio con configuraciones validadas y soporte, además de actualizaciones previstas cada dos semanas. Super VL puede ejecutarse en DGX Spark, DGX Station, RTX PRO, equipos RTX, módulos Jetson, centros de datos y la nube, según las opciones descritas por la empresa.

La apertura, no obstante, convive con un incentivo comercial claro: cuanto más adopten las empresas modelos que ejecutan en sus propios servidores, mayor puede ser la demanda de infraestructura de cómputo. Como las variantes Nemotron están optimizadas para productos Nvidia, los usuarios que busquen aprovecharlas al máximo podrían terminar dependiendo de ese hardware, incluso mientras otras compañías desarrollan chips propios y ajustan modelos para sus plataformas.

La estrategia amplía la oferta para organizaciones que quieren personalizar sistemas con sus datos y evitar depender exclusivamente de las condiciones de un proveedor cerrado, pero el costo y la disponibilidad de equipos capaces siguen siendo factores decisivos. El equilibrio entre apertura, control empresarial y dependencia del hardware marcará el alcance de estos agentes, mientras Nvidia actualiza su oferta y las organizaciones evalúan si las mejoras de velocidad justifican desplegarlos a escala.


ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín

Artículos Relacionados