Runware lanza pods portátiles para inferencia de IA sin agua y a menor costo

Runware presenta su centro de datos modular Sonic Inference Pod: una unidad portátil que promete inferencias de IA más baratas y rápidas, sin consumo de agua y con instalación en días. ¿Será el futuro de la computación distribuida frente a los gigantescos centros de datos de los hiperescalares?

***

• Runware lanza Sonic Inference Pod, un centro de datos modular y portátil.
• El pod ofrece inferencias de IA a menor costo y sin uso de agua.
• La compañía ya tiene 10 pods en funcionamiento y planea expandirse.

La inteligencia artificial generativa ha disparado la demanda de poder de cómputo para ejecutar modelos. La inferencia, el proceso de usar modelos ya entrenados para hacer predicciones, exige cada vez más infraestructura.

Runware, una empresa de infraestructura de IA, anunció este martes el lanzamiento de su propio centro de datos modular llamado Sonic Inference Pod. La unidad, pensada como una cápsula transportable, busca ofrecer una alternativa flexible a los gigantescos centros de datos de los hiperescalares.

Un centro de datos portátil para la IA

Según TechCrunch, el pod puede ofrecer inferencias de mayor calidad pero a un costo menor que otras plataformas de inferencia sin servidor y nubes de GPU. Su diseño modular permite aumentar la capacidad rápidamente creando nuevos pods, en lugar de expandir una instalación fija.

“Creemos que la computación distribuida, posicionada más cerca de los usuarios finales para una inferencia más rápida, es lo que ganará a largo plazo”, dijo Flaviu Radulescu, cofundador y CEO de Runware, en declaraciones a TechCrunch.

El sistema de Runware puede escalar y agregar capacidad rápidamente, desplegarse en cualquier lugar donde haya energía y adaptarse a los nuevos lanzamientos de hardware. Además, los pods no utilizan agua, sino un sistema de refrigeración de circuito cerrado que se puede construir en días.

“La demanda de inferencias está creciendo más rápido de lo que se pueden construir las instalaciones”, señaló Radulescu. “Lo que queremos es alimentar la inteligencia del mundo, ser la columna vertebral sobre la que corre cada modelo de IA con una capacidad que se mantenga al día con la demanda en lugar de limitarla”.

El pod está diseñado como una unidad transportable única, lo que lo diferencia de las instalaciones fijas. Esto permite su despliegue en áreas remotas o con restricciones de espacio.

Despliegue y crecimiento

Runware actualmente tiene 10 pods en funcionamiento en los EE. UU., Europa y Asia-Pacífico, dijo Radulescu. La empresa ya proporciona inferencias a compañías como Higgsfield AI y Wix, y tiene 160 sitios disponibles para alimentar sus pods.

En diciembre, Runware anunció una ronda de financiamiento Serie A de USD $50 millones para proporcionar la infraestructura necesaria para que las empresas generen imágenes. La expansión hacia los pods forma parte de la misión central de la empresa: proporcionar inferencia a las empresas, no como un producto único.

La flexibilidad de los pods es un diferenciador clave. “Cada pod funciona como parte de una sola red, por lo que las solicitudes van a donde hay capacidad, más cerca de los usuarios, y si un pod se desconecta, el tráfico se mueve a otro”, explicó Radulescu.

“Una falla del sistema significa que un pod está fuera de servicio en lugar de toda una instalación fija”, agregó. “Los clientes que quieren hardware dedicado reciben pods enteros solamente para ellos”.

En cuanto a la competencia, Radulescu no está preocupado por otras empresas que intenten construir algo similar. “El hardware es lento y encontrar talento para construir y reparar esta tecnología es pequeño”, afirmó. “Un error en el diseño de un circuito impreso cuesta meses entre rediseño, simulación, fabricación, pruebas y entrega”.

El contexto de los grandes centros de datos

Los laboratorios de IA como OpenAI y SpaceX aún compiten por construir centros de datos en los EE. UU. OpenAI, por ejemplo, está cerca de cerrar un trato de USD $500 mil millones para construir un centro de datos en Ohio, según informes.

Radulescu no ve esos proyectos como una amenaza para los pods. “La flexibilidad de los pods es clave”, afirmó. “Podemos desplegarlos en cualquier lugar donde haya energía, sin esperar meses o años de construcción”.

Además, los pods de Runware no utilizan agua para enfriamiento, lo que los hace más sostenibles. “Sin pérdidas de transmisión, sin agua en el enfriamiento, y estamos utilizando energía que ya existe en lugar de pedir que se construya nueva capacidad de red”, dijo.

Sin embargo, el uso de energía para IA va a aumentar de todos modos, impulsado por la demanda de inferencia, no por quien lo suministre. Radulescu señaló que su enfoque está en cómo se satisface esa demanda.

“Más inferencias construidas de esta manera significa menos nueva red, menos agua, por la misma cantidad de computación”, concluyó.

Impacto ambiental y futuro

La construcción de centros de datos de IA es un tema controvertido por la cantidad de recursos que utilizan. Ya hay comunidades que reportan aumentos en costos de servicios públicos debido a estos centros.

Runware imagina un mundo donde puede funcionar con energía renovable y no consumir los recursos que las comunidades necesitan, pero Radulescu reconoce que ese día no es necesariamente hoy.

“El uso de energía para IA va a aumentar de todos modos, impulsado por la demanda de inferencia, no por quien lo suministre”, dijo. “En lo que nos enfocamos es en cómo se satisface esa demanda”.

El sistema de refrigeración de circuito cerrado y el uso de energía existente son pasos hacia una mayor eficiencia. “Sin pérdidas de transmisión, sin agua en el enfriamiento”, recalcó.

La compañía tiene 160 sitios disponibles para alimentar sus pods, lo que sugiere un plan de expansión agresivo. La pregunta es si esta tecnología se convertirá en el estándar para la computación de IA.

Imagen original de DiarioBitcoin, creada con inteligencia artificial, de uso libre, licenciada bajo Dominio Público

Este artículo fue escrito por un redactor de contenido de IA

ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín