Por Canuto  

Los modelos de OpenAI propusieron cambios que redujeron más del 13% del área de una parte del chip Jalapeño, en un ejemplo descrito por el responsable de hardware Richard Ho. El directivo reconoce que los ingenieros no siempre comprendían por qué funcionaban algunas propuestas y que todavía mantiene cautela frente al diseño asistido por IA.
***

  • Ho dijo que algunos cambios sugeridos por los modelos mejoraron el diseño, aunque los ingenieros no siempre entendían por qué.
  • OpenAI validó cada modificación con herramientas estándar y considera que la IA debe aumentar la productividad, no reemplazar al personal.
  • Jalapeño fue pensado para inferencia y combina en un solo diseño las etapas de prefill y decode.

OpenAI prueba la IA en el diseño de su chip Jalapeño, pero mantiene cautela

Los modelos de inteligencia artificial de OpenAI ayudaron a modificar partes de Jalapeño, el chip que la compañía desarrolla para ejecutar sus modelos, y consiguieron reducir más del 13% del área del die en un ejemplo. Sin embargo, Richard Ho, vicepresidente de Hardware de OpenAI, reconoció que sus ingenieros no siempre comprendían por qué algunas propuestas funcionaban y que mantiene cautela frente a los diseños generados con IA.

La conversación de Ho con Ian Cutress, del medio especializado More Than Moore, se publicó el 30 de septiembre y abordó tanto el proceso de diseño como las decisiones de arquitectura. OpenAI presentó su chip en junio y lo desarrolló junto con Broadcom para inferencia, es decir, para ejecutar modelos, no para entrenarlos. En agosto, durante Hot Chips, la empresa mostró resultados de benchmarks frente al GB300 de Nvidia.

La IA ayudó a resolver un problema de espacio

Ho explicó que el equipo avanzó con rapidez, pero sus primeras estimaciones sobre cuánta lógica cabría en el chip no fueron del todo precisas. En lugar de sacrificar rendimiento para ajustarse a ese cálculo, los ingenieros probaron si sus modelos internos podían ayudar a revisar el diseño y encontrar alternativas. La IA terminó participando en cambios que permitieron aprovechar mejor el espacio disponible.

El directivo destacó un caso en el que los modelos redujeron más del 13% del área del die, la superficie del chip donde se integra su circuito. La cifra corresponde a un ejemplo descrito por Ho, no a una reducción uniforme de todo Jalapeño. Aun así, ilustra por qué el equipo recurrió a estas herramientas cuando sus cálculos iniciales sobre la lógica necesaria no encajaron con el espacio disponible.

Los modelos que usaron entonces eran herramientas internas todavía rudimentarias, según Ho, y no habían sido afinados mediante fine-tuning. Por eso, el resultado no surgió de un sistema especializado que entendiera automáticamente cada aspecto del hardware. Los ingenieros, en cambio, buscaron una forma de plantear el trabajo en un lenguaje que los modelos pudieran manejar mejor.

Buena parte del código que revisaron estaba escrito en XLS, una herramienta que convierte código de alto nivel en lógica de chip. Chris Leary, ahora integrante del equipo de Ho, publicó XLS como código abierto cuando trabajaba en Google. Su sintaxis se parece más a Rust que a Verilog, el lenguaje usado habitualmente para describir circuitos, y Ho dijo que los modelos razonaban mejor sobre el software que sobre Verilog.

Los cambios pasaron por validaciones, pero no siempre fueron explicables

El uso de XLS ofreció a los modelos una representación con la que podían trabajar, pero eso no significó que sus propuestas fueran transparentes para el equipo. Ho contó que algunos cambios en el código fuente aparecieron sin una explicación clara de la razón por la que podían mejorar el diseño. La velocidad del proyecto tampoco siempre dejaba margen para detenerse y reconstruir el razonamiento detrás de cada modificación.

El responsable describió esa limitación con una advertencia: el equipo no entendía por completo, en términos conceptuales, qué estaba haciendo la IA en ciertos casos. Que una propuesta produjera un resultado útil no bastaba para que sus ingenieros conocieran todos los pasos que la habían generado. Esa diferencia entre obtener una mejora y comprender su causa es parte de la cautela que Ho mantiene frente al diseño asistido por modelos.

Para controlar ese riesgo, cada cambio siguió pasando por el flujo completo de validación, y las herramientas estándar de diseño continuaron aprobando el chip. La IA no sustituyó ese proceso ni convirtió una sugerencia en una modificación aceptada de manera automática. Según la explicación de Ho, el equipo conservó los controles habituales para comprobar el resultado antes de incorporarlo al diseño.

Ho puso el problema en perspectiva al señalar que un chip puede contener cientos de millones de puertas, componentes que implementan operaciones lógicas. En una escala así, un modelo que acierte el 99,99% de las veces no ofrece la precisión necesaria para confiar sin reservas en cada resultado. Por eso, calificó la apuesta como un riesgo que puede valer la pena, siempre que los ingenieros actúen con cautela.

Ho plantea que la IA debe ampliar el trabajo del equipo

La cautela no llevó a Ho a proponer que OpenAI reduzca su plantilla de ingeniería a causa de estas herramientas. Su planteamiento fue el contrario: utilizarlas para que el equipo pueda hacer más trabajo y avanzar con mayor rapidez. La distinción importa porque, en su relato, la IA sirve para acelerar tareas de diseño, pero no elimina la necesidad de criterio técnico ni de validación humana.

La experiencia también muestra una aplicación concreta de modelos de IA fuera de la generación de texto o de software convencional. En este proyecto, las herramientas intervinieron en código que termina convertido en lógica para un chip, y sus propuestas tuvieron consecuencias medibles sobre el área de una parte del diseño. Al mismo tiempo, la falta de explicaciones claras impidió tratar sus resultados como decisiones que los ingenieros pudieran aceptar sin revisión.

Ho llegó a OpenAI en 2023 y aporta experiencia previa en diseño de hardware. Fue uno de los primeros ingenieros del programa TPU de Google y antes construyó los supercomputadores Anton en D.E. Shaw Research. Ese recorrido da contexto a su enfoque: describió las capacidades de los modelos, pero también señaló límites técnicos y la importancia de no confundir rapidez con comprensión del diseño.

En consecuencia, el caso de Jalapeño no equivale a una afirmación de que OpenAI ya pueda automatizar por completo la creación de chips. Lo que Ho describió fue un equipo que empleó modelos internos para explorar cambios en el código y mantuvo un proceso de comprobación para decidir si eran válidos. La empresa busca aprovechar esa asistencia sin trasladar a la IA la responsabilidad final de aprobar el hardware.

Un chip para distintas etapas de inferencia

Ho también defendió una decisión de arquitectura de Jalapeño: diseñar una sola parte del chip para atender tanto el prefill como el decode. El prefill procesa el prompt de entrada, mientras el decode genera la respuesta, y parte de la industria separa esas etapas en hardware distinto. OpenAI optó por un diseño común en vez de dividirlas en componentes dedicados.

El directivo argumentó que asignar de antemano la capacidad de un centro de datos a una proporción fija entre esas tareas puede ser arriesgado. La mezcla de trabajo cambia, por lo que una configuración rígida podría no corresponder con las necesidades que aparezcan durante el uso. La elección de OpenAI busca evitar quedar atada a una distribución predeterminada, aunque Ho reconoció que el diseño también podría tener costos visibles solo al desplegarlo.

Entre los límites que mencionó está la posibilidad de que contextos muy largos alcancen restricciones del chip. Ho no presentó ese punto como un problema ya medido en producción, sino como una consideración que podría hacerse evidente durante el despliegue real. Esa advertencia acompaña la defensa de la arquitectura: elegir un único diseño para ambas etapas aporta flexibilidad, pero no garantiza que todos los patrones de uso tengan el mismo desempeño.

Jalapeño conecta bancos de memoria de alto ancho de banda directamente a sus núcleos, de modo que los datos recorren menos distancia dentro del sistema. Ho espera que otros actores, incluidos fabricantes de GPU, copien esa idea. OpenAI decidió hacer pública la arquitectura pese a que, según el propio Ho, la empresa sigue necesitando GPU y quiere que esos procesadores también mejoren.

La producción de Jalapeño todavía avanza por etapas

La segunda versión de Jalapeño ya se encuentra en el laboratorio para su calificación, mientras OpenAI avanza hacia la producción en volumen. La noticia no indica que esa producción haya comenzado ni que el chip esté ya desplegado a gran escala. La etapa de calificación señala que el trabajo continúa, después de las decisiones de diseño y de las pruebas que Ho describió.

La empresa presentó el procesador como una pieza para ejecutar sus modelos, no para entrenarlos, y lo desarrolló con Broadcom. Esa función delimita el alcance de la apuesta: OpenAI busca hardware para inferencia dentro de su estrategia de infraestructura, pero no anunció en la información citada que Jalapeño vaya a sustituir las GPU. Ho, de hecho, afirmó que la firma todavía las necesita.

Al hablar de los límites que enfrenta el sector, Ho dijo que el principal no es la energía, la memoria ni el empaquetado. A su juicio, ejecutivos e inversores, afectados por auges anteriores, no alcanzan a dimensionar cuánto podría crecer la IA y por eso sus apuestas resultan demasiado pequeñas. Se trata de su interpretación sobre las expectativas de inversión, no de una medición sobre el mercado ni de un resultado atribuido al chip.

La combinación de una segunda versión en calificación, un diseño que cubre prefill y decode y el uso de IA en el proceso revela una estrategia todavía en desarrollo. Ho presentó beneficios concretos, como el ahorro superior al 13% del área en un ejemplo, pero también insistió en que los modelos pueden producir cambios difíciles de explicar y no son suficientemente precisos para operar sin controles. Para OpenAI, la promesa está en acelerar el trabajo de sus ingenieros sin dejar de validar cada paso.

Imagen original de DiarioBitcoin, creada con inteligencia artificial, de uso libre, licenciada bajo Dominio Público.

Este artículo fue escrito por un redactor de contenido de IA y revisado por un editor humano para garantizar calidad y precisión.


ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín

Artículos Relacionados