Por Canuto  

Intel presentó su GPU D-series, un acelerador de IA con hasta 480 GB de memoria LPDDR5X y refrigeración por aire, orientado a cargas de inferencia y modelos de gran tamaño. La compañía afirma que una tarjeta puede admitir modelos de hasta 300.000 millones de parámetros. El producto ya está en etapa de muestreo para clientes, aunque no se ha anunciado una fecha de disponibilidad general ni un precio público.

***

  • La GPU D-series ofrece hasta 480 GB de LPDDR5X. La documentación de NVIDIA para el sistema DGX B300 indica 288 GB de memoria por GPU.
  • Intel afirma que una tarjeta puede admitir modelos de hasta 300.000 millones de parámetros y que un sistema de ocho GPU puede alojar modelos superiores a un billón.
  • El acelerador tiene un consumo especificado de 350 W, formato PCIe y refrigeración por aire. Reportes indican que ya comenzó el muestreo para clientes, pero no se ha anunciado una fecha de disponibilidad general ni un precio público.

 


Intel presentó su GPU D-series, un acelerador de inteligencia artificial con hasta 480 GB de memoria LPDDR5X, durante la Cumbre Global del Open Compute Project. La compañía la orienta a cargas de inferencia, es decir, al proceso por el que un modelo ya entrenado genera respuestas o ejecuta tareas, y afirma que puede manejar modelos de hasta 300.000 millones de parámetros en una sola tarjeta.

La cifra destaca en un mercado donde la capacidad de memoria puede limitar qué modelos caben en un acelerador y qué información permanece disponible durante su operación. Sin embargo, tener más memoria no significa automáticamente responder más rápido: el desempeño también depende del ancho de banda, la capacidad de cómputo, el software y las características de cada carga de trabajo, una distinción importante al evaluar la propuesta de Intel.

Una capacidad de memoria inusual para un acelerador de IA

La GPU D-series, que antes se conocía por el nombre en clave Crescent Island, ofrece hasta 480 GB de memoria. Como referencia, la documentación de NVIDIA para el sistema DGX B300 indica 288 GB por GPU. La comparación ayuda a dimensionar la capacidad anunciada por Intel, pero no basta para establecer cuál acelerador ofrece un mejor rendimiento general.

Intel eligió LPDDR5X, una tecnología asociada también con portátiles y dispositivos que buscan eficiencia energética, en vez de GDDR7, habitual en tarjetas gráficas modernas. Esa elección apunta a una prioridad distinta de la de una tarjeta de videojuegos: disponer de una gran cantidad de memoria para cargas de IA, en lugar de centrarse exclusivamente en el tipo de memoria que suelen incorporar las GPU de consumo.

La cantidad de memoria importa porque los modelos de lenguaje grandes contienen pesos y datos que el acelerador necesita consultar para producir resultados. Si el sistema logra mantener más de esos elementos accesibles durante la inferencia, puede abordar modelos o solicitudes de mayor tamaño; aun así, la cifra de 480 GB describe capacidad, no una garantía de velocidad ni de rendimiento uniforme en todos los escenarios.

Intel sostiene que una sola GPU D-series puede admitir modelos con hasta 300.000 millones de parámetros, mientras que un sistema con ocho tarjetas puede alojar modelos que superen un billón. Los parámetros son valores internos que el modelo utiliza para procesar entradas y generar respuestas, de modo que las cifras comunicadas dan una referencia sobre la escala de los modelos que la compañía busca atender, sin detallar por sí solas su desempeño ante cada tarea.

Capacidad y velocidad son medidas distintas

Intel especifica un rendimiento de 1,3 petaflops en cómputo FP8, un formato numérico utilizado para acelerar operaciones de IA con menores requisitos de memoria que formatos de mayor precisión. La compañía también declara un ancho de banda de memoria de 1,5 TB/s, una medida diferente que indica a qué ritmo pueden desplazarse los datos entre la memoria y el procesador.

Esas especificaciones ayudan a entender por qué una cifra aislada no basta para comparar aceleradores. Una tarjeta puede tener espacio para alojar un modelo extenso, pero la rapidez con que procese solicitudes también dependerá de sus recursos de cálculo y de la velocidad de acceso a los datos, además de cómo el software distribuya y ejecute el trabajo.

La distinción cobra importancia en inferencia porque los centros de datos pueden atender indicaciones largas y numerosas solicitudes simultáneas, además de servicios empresariales y aplicaciones de robótica que requieren respuestas oportunas. Intel presenta su capacidad de memoria como una forma de abordar esas cargas, pero la información disponible no incluye pruebas comparativas que permitan medir cómo se desempeña la D-series frente a otros productos en tareas concretas.

Intel vincula el diseño del acelerador con las necesidades de una inferencia sostenida e intensiva en memoria. “La inferencia se está convirtiendo en la carga de trabajo definitoria de la IA, y las empresas necesitan una infraestructura que ofrezca el rendimiento adecuado al costo adecuado”, dijo Anil Nanduri, vicepresidente de Productos de IA y GTM del Intel Data Center Group; añadió que la serie D busca hacer práctica y económica la expansión de la inferencia de alta capacidad.

Un formato pensado para integrarse en centros de datos

Además de la memoria, Intel especifica un consumo de 350 W, un formato PCIe estándar y refrigeración por aire. La compañía presenta esas características como una opción para centros de datos con infraestructura compatible con PCIe y refrigeración por aire. Sin embargo, esas especificaciones no permiten concluir por sí solas qué cambios requerirá cada instalación para desplegar el acelerador.

La empresa también planea conectar la GPU con sus procesadores Xeon. En ese esquema, las CPU podrían coordinar tareas, gestionar el movimiento de datos y hacerse cargo de trabajos que no requieran aceleración gráfica, una distribución que responde a sistemas de IA compuestos por varias etapas y no únicamente por el cálculo que ejecuta una GPU.

Entre esas etapas, Intel menciona recuperación de información, razonamiento, orquestación, herramientas externas y ejecución. Nicolas Dubé, vicepresidente corporativo de Sistemas de Centros de Datos y Grupo de Soluciones de Intel, relacionó la estrategia con la expansión de los modelos abiertos y afirmó que las organizaciones necesitan asignar cada carga a los recursos adecuados, una idea que la compañía resume como “poner cada indicación en su lugar”.

La GPU D-series ya está en etapa de muestreo para clientes, según reportes sobre el anuncio. Intel no ha comunicado un precio público ni una fecha específica de disponibilidad general. Por ahora, el anuncio presenta especificaciones y objetivos de diseño, pero deja abiertas preguntas prácticas sobre el costo y el calendario de despliegue comercial.

La serie D coloca a Intel en una competencia por ofrecer aceleradores capaces de alojar modelos de gran tamaño y gestionar cargas de inferencia con distintos requisitos. Sus 480 GB de memoria son el dato más llamativo, aunque la evaluación de su utilidad dependerá también del rendimiento efectivo y la integración con el software y los sistemas existentes..


Imagen original de DiarioBitcoin, creada con inteligencia artificial, de uso libre, licenciada bajo Dominio Público

Este artículo fue escrito por un redactor de contenido de IA

 


ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín