SpaceXAI apuesta por C para acelerar Grok 4.5 y recortar el ciclo de modelos a semanas

SpaceXAI estaría reorganizando su fábrica de modelos de IA desde la capa de software para acelerar tanto el entrenamiento como la generación de texto. Un nuevo análisis sostiene que la reescritura en C/C++ vale mucho más por su impacto en la fase de inferencia y aprendizaje por refuerzo que por el preentrenamiento en sí, aunque esa ventaja frente al mercado podría reducirse con rapidez.
***

• Un análisis estima que la nueva pila en C de SpaceXAI comprime el ciclo completo de un modelo en alrededor de 4x frente a su software previo.
• La ventaja sobre las mejores herramientas abiertas rondaría 33% en tokens por segundo por GPU hoy, pero podría caer a cerca de 8% en un año.
• A medida que SpaceXAI avance hacia modelos de 6T, 10T y 20T parámetros, el siguiente cuello de botella dejaría de ser el cómputo para pasar a los datos.

SpaceXAI estaría apostando a una reescritura profunda de su pila de software en C/C++ para acelerar la construcción y operación de sus modelos de inteligencia artificial. La tesis central es que el mayor premio no estaría en entrenar más rápido desde cero, sino en generar texto con mayor eficiencia.

Esa diferencia es relevante porque la fase de generación, también llamada decode, domina buena parte del aprendizaje por refuerzo moderno y del uso comercial diario de un chatbot. Allí es donde la velocidad por GPU termina afectando tanto el reloj de entrenamiento como el costo por token al atender usuarios.

La firma de análisis 33 Research modeló el ciclo completo de un modelo de frontera de SpaceXAI y concluyó que la ganancia total sería de aproximadamente 4x frente al stack anterior de la empresa. En su estimación, la ventaja inmediata frente a las mejores herramientas abiertas sería de cerca de 33%, pero tendería a reducirse.

El trabajo parte del anuncio de Elon Musk sobre la próxima apertura pública de Grok 4.5 y de sus afirmaciones sobre una pila de entrenamiento en C capaz de ofrecer un aumento de velocidad de “más de un orden de magnitud” frente a JAX. Sin embargo, el propio análisis advierte que esas afirmaciones no pueden verificarse desde fuera y que Musk ha sido entre 2x y 5x optimista en software y calendarios.

Para lectores menos familiarizados con la mecánica de la IA, la discusión no gira solo alrededor de chips más potentes o de más centros de datos. También depende de cómo el software reparte el trabajo entre las GPUs, aprovecha la memoria y reduce los tiempos muertos en las fases más costosas del proceso.

Por qué la generación de texto importa más que el preentrenamiento

Cuando un modelo recibe una consulta, primero “lee” el prompt completo y luego “escribe” la respuesta token por token. La lectura es paralela y rápida, mientras que la escritura es secuencial y obliga a recuperar parámetros desde memoria una y otra vez.

Ese contraste es clave para entender el valor de la reescritura. En un modelo de 2 billones de parámetros, el análisis estima que unos 90.000 millones de parámetros activos deben recuperarse de la memoria por cada palabra producida.

Por eso el ancho de banda de memoria marca el ritmo más que la capacidad matemática teórica del chip. En la práctica, leer es barato y veloz, pero escribir es caro y lento, que es precisamente el terreno donde un software mejor ajustado puede marcar diferencias.

El efecto no se limita al chat público. En aprendizaje por refuerzo, el modelo genera millones de respuestas candidatas, recibe una puntuación y luego ajusta sus pesos, por lo que cerca de 80% del tiempo de reloj de RL se consume escribiendo.

Musk ya había resumido esta asimetría en febrero, durante una conversación con Dwarkesh Patel, al señalar que la mayor parte de la IA terminará siendo inferencia y que incluso dentro del entrenamiento la inferencia ya representa la mayor parte del trabajo. Bajo esa lógica, reescribir la pila en C y mapearla a GPUs concretas sería, ante todo, una apuesta por acelerar la escritura de texto.

El ciclo real de un modelo: días de cómputo dentro de semanas de pipeline

Uno de los puntos más llamativos del análisis es que la famosa “corrida de entrenamiento” no ocupa la mayor parte del calendario. Para un modelo disperso de 2T parámetros, entrenado con unos 40T tokens en cerca de 200.000 H100 equivalentes, el preentrenamiento tomaría alrededor de 2,7 días en el caso central.

Ese mismo bloque podría bajar hasta unas 9 horas en un escenario optimista o estirarse entre dos y tres semanas bajo estrés. La amplitud del rango responde a que ningún laboratorio publica con claridad cuántos chips puede absorber una sola corrida antes de que el paralelismo deje de rendir.

El resto del calendario se lo comen la preparación de datos, las corridas de prueba, el ajuste fino, la práctica de aprendizaje por refuerzo y las pruebas finales. En ese marco, la fase de RL sería la gran beneficiaria del nuevo software, al caer de 5,0 a 2,4 semanas.

El modelo de referencia de 33 Research ubica el ciclo pionero de una corrida de 2T en 7,6 semanas. Esa cifra casi coincide con las ~7,5 semanas observadas para la ejecución actual mencionada por Musk, con un error de calibración de apenas +0,8%.

En régimen estable, el ciclo bajaría a unas 5,3 semanas. Si varias etapas se superponen de forma moderada, la cadencia de lanzamiento se acercaría a 3,5 semanas por modelo, una dinámica más parecida a una línea de ensamblaje que a un evento aislado.

Según el análisis, “un modelo al mes” no sería una promesa imposible si se interpreta como resultado de pipeline y no como duración literal de cada construcción. La empresa podría tener un modelo en RL, otro en preentrenamiento y un tercero en preparación de datos al mismo tiempo.

Qué tan realista es la promesa de un salto de 10x

Musk afirmó a finales de mayo que la pila interna en C ofrecía un aumento potencial de velocidad de más de un orden de magnitud frente a JAX. Un mes después, prometió la pila completa de entrenamiento e inferencia en C/C++ dentro de unos tres meses.

El problema es que una afirmación así puede anclarse a muchas líneas base distintas. Podría referirse a una configuración interna vieja, a una carga de trabajo específica o a un benchmark parcial, de modo que un observador externo no tiene forma de saber qué se comparó exactamente.

Para sortear esa opacidad, el análisis desarma la ganancia en varias palancas. Entre mayor ocupación de chips, matemáticas de menor precisión y coordinación más eficiente entre GPUs, la mejora del lado del entrenamiento se acercaría a 5x antes de chocar con límites físicos.

Luego se incorpora la fase de práctica y servicio, que representaría cerca de 45% del ciclo. Con esa integración, el salto total del ciclo completo quedaría en 4,0x frente a la pila previa de SpaceXAI, no en 10x.

En 2.000 simulaciones, el resultado típico ronda 5x y el escenario optimista se acerca a 8x. El salto de 10x aparece apenas en 0,2% de los ensayos, por lo que el estudio lo presenta más como un extremo estadístico que como una expectativa base.

También introduce un límite empírico importante. Ninguna corrida publicada a escala de frontera ha sostenido más de cerca de 55% de la capacidad máxima del hardware, aunque reconoce que un laboratorio muy agresivo podría superar ese techo en el futuro.

La ventaja frente al código abierto sería real, pero no permanente

Una cosa es medir a SpaceXAI contra su propio pasado y otra compararla con el resto del mercado. En esa segunda comparación, la ventaja luce bastante más estrecha que el relato de una revolución total.

La unidad que importa es tokens por segundo por GPU durante la generación. Esa variable impacta de forma directa el tiempo consumido en RL y el costo operativo al servir respuestas a clientes.

El análisis calcula que la pila post reescritura de SpaceXAI alcanzaría cerca de 1,25x la velocidad de las mejores soluciones abiertas actuales. Expresado de otra forma, sería alrededor de 33% más tokens por segundo por GPU para el modelo actual de 2T.

Ese margen podría incluso desaparecer en un escenario adverso. Si eso ocurriera, el texto sugiere que la empresa podría terminar adoptando la mejor pila abierta disponible y perder solo orgullo, no necesariamente toda su competitividad.

La presión competitiva llegaría por dos relojes distintos. Las técnicas de software pueden copiarse en cuestión de semanas, mientras que la sintonización específica para un chip también envejece rápido porque NVIDIA ya estaría introduciendo nuevas arquitecturas cada año.

El estudio recuerda que cuando DeepSeek publicó optimizaciones de servicio a inicios de 2025, el proyecto abierto vLLM absorbió lo esencial en unas tres semanas. En ese contexto, la ventaja de SpaceXAI podría reducirse hacia 8% dentro de doce meses, con un rango estimado entre 2% y 16%.

Por qué la reescritura gana valor en modelos de 6T, 10T y 20T

La defensa del proyecto no sería su permanencia, sino su escalabilidad. A medida que crece el tamaño del modelo, el tiempo ahorrado por ciclo aumenta de forma muy agresiva.

El análisis calcula un ahorro cercano a 3 semanas en un modelo de 2T. Ese beneficio subiría a 8,8 semanas en 6T, a 15,8 semanas en 10T y a alrededor de 37 semanas en un modelo de 20T.

La ventaja relativa también crecería con el tamaño. Pasaría de cerca de 1,25x en 2T a aproximadamente 1,5x en 20T, porque los modelos mayores deben repartirse entre más GPUs para caber en memoria y eso añade sobrecarga de coordinación.

En la estimación citada, una réplica de un modelo 2T usaría unas 10 GPUs, mientras que una de 20T podría exigir cerca de 100. Una pila de software ajustada con precisión a ese entorno desperdiciaría menos recursos en esa coordinación extra.

Por eso el estudio plantea que la reescritura no debe juzgarse solo por su impacto inmediato sobre Grok 4.5 o el modelo de 2T. Su lógica sería preparar el terreno para corridas de 6T y 10T que ya figuran en la hoja de ruta mencionada por Musk.

Sin embargo, otro cuello de botella reaparece en la parte alta de la escala. Alrededor de 12T parámetros, las matemáticas del entrenamiento volverían a cobrar más peso y la parte menos atendida de la reescritura empezaría a importar de nuevo.

El próximo gran freno podría ser la escasez de datos

El punto más inquietante del análisis aparece en el extremo de 20T. Allí, la restricción vinculante dejaría de ser el cómputo para pasar a ser el suministro de datos utilizables.

Una corrida de 20T a intensidad de frontera requeriría alrededor de 400T tokens de texto como mínimo absoluto. Frente a eso, el stock utilizable de escritura humana disponible rondaría 300T tokens, según la estimación de Epoch AI citada en el documento.

Si la receta de entrenamiento fuera más pesada, la necesidad total se dispararía aún más. El análisis añade que ciertos enfoques corren con cientos de tokens por parámetro activo, lo que elevaría la demanda a múltiplos del mínimo base.

Esto ayuda a reinterpretar la adquisición de Cursor por cerca de USD $60.000 millones en acciones. Más que un gasto exuberante, el movimiento podría leerse como una compra preventiva de una nueva fuente de datos reales de codificación con retroalimentación incorporada.

La misma lógica se extiende a los datos multimodales. Una sola imagen de alta resolución puede consumir entre ~800 y 1.100 tokens en pipelines de frontera actuales, mientras que el video multiplica la demanda por órdenes de magnitud adicionales.

Bajo esa lectura, las compras corporativas no solo revelan ambición, también delatan cuál es la restricción que una compañía cree que enfrentará después. El estudio resume esa secuencia así: en 2024 mandaban los chips, ahora manda la eficiencia de generación y el siguiente freno sería el suministro de datos.

Qué deberían vigilar inversionistas y observadores del mercado

El análisis recomienda valorar la capa de software como una curva de costo decreciente y no como un foso duradero. La reescritura sería muy valiosa frente a la base instalada de SpaceXAI, pero solo otorgaría una ventaja parcial y erosionable frente al mercado.

Desde esa óptica, lo defendible no sería tanto el código mismo como la capacidad organizacional de reconstruirlo rápido en cada nuevo ciclo de chips. Esa “velocidad de reconstrucción” se presenta como un activo más durable que cualquier optimización aislada.

La narrativa de “fábrica de modelos” sí sobreviviría al escrutinio en la escala de 2T. Con suficiente superposición entre etapas, una cadencia cercana a un modelo mensual luce plausible, aunque no porque cada construcción dure un mes sino porque varias conviven en pipeline.

Ese relato cambia cuando el tamaño crece. En el caso central, la tasa de envío para 10T se estiraría a unas 16 semanas y para 20T a unas 44 semanas, salvo que aumenten a la vez la flota disponible y el techo de cómputo absorbible por ejecución.

El estudio también propone una prueba concreta para los próximos meses. Si la pila C completa aterriza entre septiembre y octubre, el acortamiento del ciclo debería notarse después de ese punto y concentrarse sobre todo en la fase de RL.

La comercialización de Grok 4.5 con énfasis en velocidad, eficiencia de tokens y costo por token encaja con ese marco. Según el documento, esa sería precisamente la parte del negocio donde la mejora del software puede generar una ventaja adicional que su modelo todavía no cuantifica.

En suma, la apuesta de SpaceXAI no parecería orientada solo a lanzar un chatbot más rápido en el corto plazo. También busca reposicionar la infraestructura de la empresa para una carrera en la que el cuello de botella cambia de lugar, primero del hardware al software, y luego del software a los datos.

Imagen original de DiarioBitcoin, creada con inteligencia artificial, de uso libre, licenciada bajo Dominio Público.

Este artículo fue escrito por un redactor de contenido de IA y revisado por un editor humano para garantizar calidad y precisión.

ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín