Por Canuto  

Nvidia se prepara para presentar en su conferencia GTC una nueva plataforma enfocada en “inferencia”, el tipo de cómputo que permite a los modelos de IA responder preguntas. El movimiento llega en medio de reportes sobre la búsqueda de OpenAI por alternativas que aceleren respuestas en casos específicos, mientras el ecosistema de chips de IA vive una competencia cada vez más intensa.
***

  • Nvidia desarrolla un nuevo sistema de cómputo para inferencia, orientado a IA más rápida y eficiente.
  • WSJ reportó que la plataforma se presentará en GTC en San José y que incorporará un chip diseñado por Groq.
  • Reuters recordó que OpenAI ha expresado inconformidad con la velocidad del hardware de Nvidia en ciertos problemas, y ha explorado conversaciones con startups como Cerebras y Groq.

Nvidia prepara una nueva apuesta para acelerar la inferencia

Nvidia planea lanzar un nuevo procesador diseñado para ayudar a OpenAI y otros clientes a construir sistemas de inteligencia artificial más rápidos y eficientes. La información fue reportada por el Wall Street Journal, que citó a personas familiarizadas con el asunto. El foco del desarrollo estaría en un tipo de cómputo crítico para los usuarios finales: la “inferencia”.

En términos simples, la inferencia es la fase en la que un modelo ya entrenado responde preguntas, genera texto o produce resultados bajo demanda. A diferencia del entrenamiento, que consume enormes recursos para “aprender” patrones, la inferencia determina la experiencia cotidiana: latencia, velocidad de respuesta y costo por consulta. Por eso, la infraestructura para inferencia se ha convertido en un campo de batalla para proveedores de nube, laboratorios de IA y fabricantes de chips.

Según el reporte, Nvidia desarrolla un nuevo sistema para la computación de inferencia. Esta plataforma se presentaría el próximo mes durante la conferencia de desarrolladores GTC de Nvidia, en San José. La compañía no confirmó de inmediato la información.

El mismo reporte indicó que la nueva plataforma incorporará un chip diseñado por la startup Groq. Reuters señaló que no pudo verificar inmediatamente lo publicado. Ni Nvidia ni OpenAI respondieron de inmediato a una solicitud de comentarios, de acuerdo con la agencia.

Por qué la inferencia es el cuello de botella en la IA generativa

La popularidad de sistemas como ChatGPT ha cambiado la prioridad del hardware. No basta con entrenar un modelo grande; ahora también importa atender millones de consultas con rapidez y sin disparar los costos. La inferencia se mide en tiempos de respuesta y en cuánta computación se requiere para servir cada interacción.

En aplicaciones como asistencia para programación o automatización de flujos de software, la latencia puede definir si una herramienta es útil o frustrante. Cuando un modelo se integra con otros sistemas, los retrasos se multiplican y afectan procesos completos. Por eso, optimizar inferencia se ha vuelto tan relevante como escalar el entrenamiento.

Este contexto también tiene implicaciones para mercados y negocios. La demanda por chips especializados para inferencia presiona cadenas de suministro, acuerdos de capacidad en centros de datos y estrategias de inversión. En paralelo, las empresas buscan reducir dependencia de un solo proveedor, especialmente cuando la demanda supera la oferta.

Para lectores del mundo cripto y financiero, la carrera por inferencia importa por un motivo adicional: la IA se volvió infraestructura. Desde análisis de mercado hasta herramientas de trading cuantitativo o moderación de riesgo, el costo por consulta y la velocidad determinan qué productos pueden competir. Aunque esta noticia no trata de blockchain, sí apunta al corazón del nuevo ciclo tecnológico que influye en capital de riesgo y acciones tecnológicas.

OpenAI y la presión por respuestas más rápidas

Reuters reportó a inicios de este mes que OpenAI no está satisfecha con la velocidad a la que el hardware de Nvidia puede generar respuestas para usuarios de ChatGPT en ciertos tipos de problemas. La agencia mencionó ejemplos como desarrollo de software y comunicación de la IA con otro software. Esa clase de tareas suele demandar alta consistencia y baja latencia.

De acuerdo con una de las fuentes citadas por Reuters, OpenAI necesita nuevo hardware que eventualmente proporcione alrededor del 10% de sus necesidades de computación de inferencia en el futuro. La cifra ilustra el tamaño del reto: incluso una fracción del cómputo de una plataforma masiva representa una capacidad enorme en términos de centros de datos y chips.

En ese mismo marco, Reuters indicó que el creador de ChatGPT discutió trabajar con startups, incluidas Cerebras y Groq, para proporcionar chips orientados a una inferencia más rápida. Estas conversaciones reflejan un patrón común en la industria: diversificar proveedores y explorar arquitecturas especializadas para cargas de trabajo específicas.

Sin embargo, según una de las fuentes citadas por Reuters, Nvidia firmó un acuerdo de licencia por USD $20.000 millones con Groq, lo que habría cerrado las conversaciones de OpenAI con esa startup. El dato subraya que, además del rendimiento técnico, los acuerdos comerciales y de propiedad intelectual pueden definir qué alianzas son viables.

GTC en San José y el papel de Groq en el nuevo sistema

El reporte del Wall Street Journal apuntó a que Nvidia presentará la nueva plataforma en su conferencia GTC en San José el próximo mes. GTC suele funcionar como vitrina de producto, pero también como señal para desarrolladores y clientes sobre la dirección estratégica de la empresa. Un anuncio centrado en inferencia buscaría capturar una necesidad inmediata del mercado.

El elemento más llamativo del informe es la participación de un chip diseñado por Groq dentro de la plataforma. En el ecosistema de chips de IA, el diseño y la arquitectura importan tanto como el proceso de fabricación. La idea de combinar componentes sugiere una aproximación por sistema, donde hardware y software se ajustan para mejorar tiempos de respuesta.

Reuters remarcó que no pudo verificar de inmediato lo reportado por el Journal. Aun así, la simple posibilidad de un anuncio de esta naturaleza muestra la intensidad de la competencia. No se trata solo de vender GPUs, sino de ofrecer soluciones listas para operar cargas reales de inferencia a gran escala.

En el plano del mercado, las noticias sobre nuevos chips suelen impactar expectativas de capacidad y adopción en la industria. Para empresas que dependen de IA, cualquier mejora en inferencia puede traducirse en costos más bajos, mayor estabilidad y mejores experiencias de usuario. Nvidia, al apuntar a un problema concreto, intenta defender su posición en un segmento que crece con rapidez.

Antecedentes: inversiones y acuerdos alrededor de OpenAI

La noticia también llega después de otros reportes relevantes sobre la relación entre Nvidia y OpenAI. Reuters indicó que en septiembre Nvidia dijo que tenía la intención de invertir hasta USD $100.000 millones en OpenAI. La agencia lo describió como parte de un acuerdo que le dio al fabricante de chips una participación en la startup y le dio a OpenAI el efectivo que necesitaba para comprar chips avanzados.

Ese antecedente ayuda a entender por qué el tema del hardware es tan central. Los modelos de IA requieren grandes presupuestos de capital, tanto para entrenamiento como para inferencia continua. El acceso a chips avanzados se convirtió en una ventaja competitiva y, al mismo tiempo, en un riesgo de concentración.

En ese contexto, el desarrollo de un nuevo sistema de inferencia por parte de Nvidia puede leerse como una respuesta a exigencias de clientes que operan a escala masiva. También encaja con una dinámica típica del sector: cuando los usuarios más grandes presionan por rendimiento, los proveedores aceleran ciclos de producto y proponen nuevas configuraciones.

Por ahora, Reuters señaló que Nvidia y OpenAI no respondieron a solicitudes de comentario sobre el informe. La industria mirará con atención lo que ocurra en GTC en San José el próximo mes, ya que cualquier confirmación o detalle técnico podría redefinir expectativas sobre la siguiente etapa del hardware de inferencia.

Imagen original de DiarioBitcoin, creada con inteligencia artificial, de uso libre, licenciada bajo Dominio Público.

Este artículo fue escrito por un redactor de contenido de IA y revisado por un editor humano para garantizar calidad y precisión.


ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín

Artículos Relacionados