Por Canuto  

Dwarkesh Patel analiza cómo el aumento de los ingresos de los laboratorios de IA y la limitada oferta de computación podrían disparar los precios de la infraestructura. Descubre las implicaciones para la industria.
***

  • Anthropic multiplica sus ingresos por 10 anualmente mientras su computación solo se triplica.
  • Los márgenes de inferencia de Anthropic subieron del 40% al 80%.
  • Google paga el doble del precio spot por 110.000 GPUs para su infraestructura.

 

Dwarkesh Patel, en su video “Why smarter AI models could drive up compute prices 10x”, plantea un escenario donde la computación para IA se vuelve diez veces más cara. La premisa se basa en la disparidad entre el crecimiento de los ingresos de los laboratorios y su infraestructura.

Anthropic, por ejemplo, ha multiplicado sus ingresos por diez cada año durante tres años consecutivos. Terminó el año pasado con USD $9.000 millones, y se espera que alcance entre USD $100.000 y USD $150.000 millones este año.

Si la tendencia continúa, Anthropic necesitaría generar USD $1 billón para finales del próximo año. Este crecimiento es asombroso, pero contrasta con el aumento de su computación, que solo se triplica anualmente.

Patel explica que para salvar la brecha entre ingresos y computación, deben ocurrir tres cosas: aumentar márgenes, subir precios de computación, o incrementar la proporción de recursos destinados a inferencia.

Según Patel, las tres ya están sucediendo, pero los laboratorios resisten la tercera opción. La forma en que ven el mundo, el propósito de los ingresos por inferencia es convencer a los inversores para financiar el siguiente nivel de entrenamiento.

El crecimiento acelerado de los ingresos de Anthropic

Patel señala que no hay una razón profunda para que la tendencia continúe, pero si así fuera, sería una cuestión de las capacidades de la IA. La pregunta es si la IA será tan útil para finales del próximo año como para generar un billón de dólares.

La otra gran tendencia es que la computación de los laboratorios solo se multiplica por tres año tras año. Para que un laboratorio aumente sus ingresos por diez mientras la computación crece solo tres veces, se deben combinar varios factores.

Esos factores son: márgenes más altos, aumento del precio de la computación, o una mayor parte de la computación destinada a inferencia en lugar de entrenamiento. Patel afirma que las tres ya están ocurriendo en cierta medida.

Con respecto a los márgenes, se informa que los márgenes de inferencia de Anthropic pasaron del 40% a mediados del año pasado a más del 80% ahora, para Fable. Este aumento es significativo y refleja la posición dominante del modelo.

En cuanto a la computación, los precios spot son más de un 40% más altos que el mínimo de febrero de este año. Y en 2024, OpenAI gastaba solo una cuarta parte de su computación en inferencia; ahora ese número se acerca al 50%.

Las tres vías para reconciliar ingresos y computación

Patel señala que los laboratorios no quieren aumentar la proporción de inferencia, porque eso significaría que el progreso de la IA se ha estancado. Prefieren mantener la mayoría de la computación para entrenar el siguiente modelo.

Si descartan la inferencia, quedan solo dos opciones: aumentar los márgenes o aumentar los precios de la computación. No está claro en qué mundo terminaremos. ¿Será un mundo con márgenes superiores al 90%?

Patel considera que márgenes tan altos solo son posibles si el modelo líder está muy por delante de la competencia. Sin embargo, duda de que la inteligencia tenga márgenes tan altos sin que otros laboratorios lo igualen.

Por lo tanto, la única alternativa para compensar la brecha es que el precio de la computación aumente. Esto ya está comenzando a suceder, y el efecto es más fuerte en los tramos de computación que los laboratorios de frontera necesitan acumular.

Los laboratorios no pueden simplemente comprar instancias spot; necesitan asegurar escala, eficiencia y seguridad. Esto les obliga a pagar primas significativas por contratos dedicados.

Márgenes en aumento: del 40% al 80%

El aumento de márgenes es un fenómeno real. Anthropic pasó de un margen de inferencia del 40% a más del 80% en menos de un año. Esto se debe a que su modelo es más eficiente y atrae a usuarios dispuestos a pagar más.

Si el modelo líder está muy por delante, puede cobrar una prima, pero Patel duda de que esa situación se sostenga. En un mercado competitivo, los márgenes deberían caer a largo plazo.

Solo si la IA se vuelve tan valiosa que los clientes no tengan alternativa, los márgenes podrían mantenerse altos. Patel usa el ejemplo del software: una vez que dominas el mercado, puedes cobrar lo que quieras.

Sin embargo, Patel especula que tal vez la inteligencia no siga esa lógica. La inteligencia podría tener economías de escala tan fuertes que un solo laboratorio domine, pero no es seguro.

Por ahora, los márgenes altos son un hecho, pero no suficientes para cerrar la brecha con los ingresos. Por eso, el precio de la computación debe subir.

El aumento de los precios de la computación: ejemplos concretos

Patel cita un estudio de caso: Google y Anthropic están alquilando computación de SpaceX. Google paga USD $900 millones al mes por 110.000 GPUs, una mezcla de GB200 y GB300.

El precio que paga Google es el doble del precio spot por hora para esas GPUs. Y el precio spot ya es más de un 40% más alto que en febrero.

Esto ilustra cómo los laboratorios de frontera están dispuestos a pagar primas para asegurar la computación que necesitan. No pueden depender del mercado spot por cuestiones de seguridad y flexibilidad.

El aumento de precios se está acelerando a medida que la IA se vuelve más capaz. Los laboratorios compiten por recursos finitos, y eso empuja los costos hacia arriba.

Patel sugiere que este efecto se intensificará a medida que los modelos sean más inteligentes y puedan generar más valor a partir de la misma computación.

El valor potencial de la computación: ¿cuánto debería costar un H100?

Patel hace un cálculo: si un H100 pudiera operar como un ingeniero de software de nivel humano, a los precios actuales de los ingenieros, debería alquilarse por más de USD $250.000 al año. Eso es más de 15 veces el precio spot actual.

Ni siquiera cuenta que la IA puede trabajar noches y fines de semana, lo que aumentaría su valor. Pero hay un contraargumento: si aparecieran diez millones de ingenieros de software adicionales, su valor marginal caería.

Patel no está seguro de que esto ocurra. La economía estándar dice que la inmigración de alta calificación no reduce los salarios a largo plazo debido a la innovación y especialización.

Si ese argumento aplica a la IA, el valor marginal de la computación se mantendría asombrosamente alto. Esto significa que los precios podrían subir mucho más antes de estabilizarse.

En ese mundo, los laboratorios que dominen la IA podrán cobrar más por sus tokens, porque pueden monetizar la computación de manera más eficiente.

El efecto Alchian-Allen y la prima por eficiencia

Patel menciona el efecto Alchian-Allen, que dice que si un insumo es caro, los consumidores preferirán productos de mayor calidad. En IA, si la computación es cara, será mejor usar un modelo más eficiente.

Si un modelo puede lograr el mismo resultado con menos tokens, en esencia crea más computación. Por lo tanto, el valor de la computación va a aumentar.

Los laboratorios que entrenen los modelos más eficientes podrán cobrar una prima, porque sus clientes ahorrarán en costos de computación. Esto amplía la brecha entre líderes y seguidores.

Patel señala que muchas aplicaciones populares de IA podrían quedar fuera de precio. Si la IA puede hacer tareas complejas, los laboratorios pagarán más por tokens para automatizar investigación de IA, que tú o yo pagaríamos por entretenimiento.

Esto podría llevar a una concentración de poder en unos pocos actores, algo que a Patel le preocupa.

El riesgo de dejar fuera aplicaciones populares

Hoy la IA es relativamente barata porque no puede hacer muchas cosas que los humanos hacen. Cuando eso cambie, el precio de los tokens podría aumentar drásticamente.

Los laboratorios pagarán más por tokens para tareas de alto valor, como investigación de IA, mientras que los usos triviales se vuelven inasequibles. Esto podría reducir el acceso a la IA para el público general.

Patel compara esta situación con la apuesta Simon-Ehrlich, donde un pesimista malthusiano perdió porque no anticipó la ingeniosidad humana. Pero la oferta de computación es menos elástica que la de metales.

La computación depende de fábricas, máquinas EUV y la asignación de obleas. No hay muchos sustitutos fáciles, y la demanda es inelástica a corto plazo.

Patel cree que el aumento de precios es inevitable en el régimen actual, antes de una posible singularidad.

La apuesta Simon-Ehrlich y por qué no aplica

La famosa apuesta entre Simon y Ehrlich mostró que los precios de los productos básicos no siempre suben con el crecimiento demográfico. Ehrlich perdió porque no previó las innovaciones tecnológicas.

Pero Patel argumenta que la computación es diferente. La oferta no puede adaptarse tan rápido debido a las limitaciones físicas y logísticas.

El crecimiento de 3x en computación se compone de un 1.4x por la Ley de Moore, 1.2x por nuevas fábricas, y 1.8x por la reasignación de obleas desde otros sectores. Cada factor tiene límites.

La Ley de Moore podría estancarse, las fábricas dependen de las máquinas EUV de ASML, y la reasignación alcanzará su tope para finales del próximo año. Para entonces, la IA habrá absorbido del 60% al 86% de la capacidad N3 en TSMC.

No hay una vía clara para acelerar ese crecimiento, así que los precios deberán ajustarse para equilibrar la oferta y la demanda.

Los límites del crecimiento de la computación

Patel detalla que el aumento de 3x anual en computación es difícil de mantener. La Ley de Moore está desacelerándose, y las nuevas fábricas requieren tiempo y capital.

La construcción de fábricas está limitada por la disponibilidad de máquinas EUV de ASML, que tardan años en producirse. No se ven aumentos significativos hasta 2030.

La reasignación de obleas de smartphones y PCs hacia IA también tiene un límite. Cuando la IA llegue al 86% de la capacidad N3, no habrá más capacidad que capturar.

Por lo tanto, la oferta de computación no podrá crecer al ritmo de la demanda. El desequilibrio resultante se reflejará en precios más altos.

Patel aclara que en el futuro, cuando los robots construyan chips, la computación será barata. Pero ese escenario es pos-singularidad; por ahora, estamos en un régimen de escasez.

El futuro pos-singularidad y la concentración de poder

Una vez que tengamos robots que conviertan arena de sílice y cobre en chips, el precio de la computación caerá a niveles de costos de materias primas. Pero hasta entonces, los precios podrían aumentar.

Patel desea que no existieran economías de escala tan fuertes en la inteligencia, porque esto conduce a una concentración de poder. Un solo laboratorio podría dominar la industria.

La capacidad de monetizar la computación de manera más eficiente significa que los líderes pueden pagar más por ella, dejando atrás a los competidores. Esto crea un ciclo de retroalimentación positiva para los grandes.

El resultado podría ser un oligopolio de unos pocos laboratorios con un control desproporcionado sobre la IA y la computación. Patel ve esto como un riesgo para la sociedad.

Por ahora, el análisis de Patel ofrece una visión clara de las presiones que enfrentará la industria en los próximos años. La computación será más cara, y solo los actores más eficientes sobrevivirán.

Imagen original de DiarioBitcoin, creada con inteligencia artificial, de uso libre, licenciada bajo Dominio Público.

Este artículo fue escrito por un redactor de contenido de IA y revisado por un editor humano para garantizar calidad y precisión.


ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín

Artículos Relacionados