Por Canuto  

Apple evalúa la tecnología de PrismML, una startup que asegura poder comprimir modelos avanzados de inteligencia artificial para ejecutarlos directamente en un iPhone. La propuesta promete menos memoria, mayor velocidad y más privacidad, aunque también plantea dudas sobre rendimiento, batería y demanda futura de chips.
***

  • PrismML redujo un modelo Qwen de aproximadamente 54 GB a menos de 4 GB, con sus 27.000 millones de parámetros operando en un iPhone 15 o posterior.
  • La startup afirma que sus modelos usan entre 10 y 15 veces menos memoria, responden entre seis y ocho veces más rápido y consumen entre tres y seis veces menos energía.
  • Analistas advierten que las cifras deben validarse a gran escala y que una mayor eficiencia podría trasladar, pero no eliminar, la demanda de chips y memoria.

 

Apple mantiene conversaciones iniciales con PrismML, una startup de Silicon Valley que desarrolla técnicas para reducir modelos de inteligencia artificial hasta permitir su ejecución directa en un iPhone. Babak Hassibi, director ejecutivo de la compañía, confirmó la evaluación en declaraciones recogidas por CNBC.

La propuesta llega mientras Apple intenta renovar Siri y competir con asistentes de OpenAI y Anthropic. El objetivo es ejecutar más funciones localmente, con menor latencia y mayor control sobre los datos personales, en lugar de enviar cada solicitud a servidores externos.

PrismML busca comprimir modelos avanzados

PrismML publicó versiones comprimidas del modelo Qwen de código abierto de Alibaba. Según la empresa, redujo el tamaño aproximado del modelo desde 54 GB hasta menos de 4 GB, sin eliminar sus 27.000 millones de parámetros.

La compañía asegura que esas versiones pueden funcionar en un iPhone 15 o en modelos posteriores. También fueron diseñadas para operar en dispositivos cotidianos como MacBooks y computadoras personales con procesadores gráficos de Nvidia.

Hassibi explicó que Apple y otras compañías están midiendo la velocidad, la eficiencia energética y el rendimiento de los modelos en dispositivos reales. El ejecutivo describió las conversaciones con Apple como muy tempranas, aunque afirmó que avanzan de forma positiva.

Apple no respondió de inmediato a una solicitud de comentarios. The Information había informado previamente sobre los avances de PrismML antes del lanzamiento público de los modelos comprimidos.

La tecnología surgió del grupo de investigación de Hassibi en el Instituto Tecnológico de California, conocido como Caltech. La universidad posee las patentes subyacentes y las licencia de manera exclusiva a PrismML.

PrismML recaudó USD $16.250.000 en una ronda inicial de financiamiento respaldada por Khosla Ventures y otros inversionistas. La empresa planea aplicar el mismo método al modelo Gemma de Google y, posteriormente, a sistemas mucho más grandes.

Una posible ventaja para Siri y la privacidad

El lanzamiento de PrismML ocurrió un día después de que Apple abriera la beta pública de iOS 27. Esa versión ofrece a los propietarios de iPhone el primer acceso amplio a la renovación de Siri, un proyecto que la compañía ha retrasado durante un periodo prolongado.

Los modelos más capaces suelen exigir demasiada memoria y potencia para operar en un teléfono. Apple puede enviar las solicitudes más complejas a su nube privada o a modelos externos, pero esa alternativa añade latencia y aumenta la dependencia de infraestructura remota.

Ejecutar más inteligencia artificial en el dispositivo permitiría reducir el tiempo entre una orden y la respuesta. También podría disminuir algunos costos de computación en la nube y permitir que determinadas funciones trabajen sin conexión a internet.

Carolina Milanesi, presidenta y analista principal de Creative Strategies, señaló que los modelos pequeños podrían ampliar las funciones exigentes que Apple ejecuta en el iPhone. Entre ellas mencionó la fotografía computacional, la generación de video y herramientas de salud o actividad física.

Los datos de salud y medicación representan un caso especialmente sensible para el procesamiento local. Mantenerlos dentro del teléfono podría reforzar el argumento de privacidad de Apple frente a servicios que dependen de servidores externos.

Apple ya ejecuta localmente algunas funciones de inteligencia artificial, incluida la traducción, parte de los resúmenes y tareas vinculadas con información personal. Las solicitudes que requieren mayor capacidad se envían a la infraestructura de nube privada de la compañía o a modelos de terceros.

Horace Dediu, fundador de Asymco, dijo que Apple busca conservar en el iPhone la mayoría de las interacciones habituales de Siri. Las tareas más exigentes continuarían descargándose a la nube, bajo un esquema híbrido.

El beneficio no consistiría únicamente en consumir menos memoria. También permitiría colocar un modelo más grande y capaz dentro de los mismos límites físicos del teléfono, según Dediu.

Rendimiento, batería y escala plantean dudas

PrismML afirma que sus modelos comprimidos utilizan entre 10 y 15 veces menos memoria que las versiones convencionales. También asegura que generan respuestas entre seis y ocho veces más rápido y consumen entre tres y seis veces menos energía en el hardware existente.

La startup consigue esa reducción al simplificar la forma en que se almacena la información interna del modelo. Cada valor de 16 bits puede representarse con solo una o tres posibilidades, un enfoque que Hassibi comparó con el paso de la industria de chips de ocho bits a cuatro bits.

La compresión tiene un costo. Hassibi reconoció que los modelos suelen perder algunos puntos porcentuales de rendimiento general, y que el recuerdo de hechos tiende a deteriorarse antes que las capacidades de razonamiento, matemáticas y programación.

La diferencia podría resultar aceptable para tareas personales y consultas cotidianas. Sin embargo, la pérdida de precisión tendría mayor importancia en herramientas de salud, asistentes autónomos o funciones que exijan respuestas confiables en todo momento.

Tarun Pathak, director de investigación de Counterpoint Research, advirtió que las demostraciones controladas no bastan para validar la propuesta. El desempeño con instrucciones largas, el consumo de batería durante la multitarea y la confiabilidad ante millones de solicitudes serán factores decisivos.

Pathak describió como prueba definitiva la evaluación con millones de consultas, miles de combinaciones de dispositivos y ensayos robustos a gran escala. Un modelo que funciona bien en un laboratorio podría comportarse de manera distinta al enfrentar variaciones de hardware, temperaturas y patrones de uso.

Phil Solis, responsable de la investigación de procesadores para clientes en IDC, identificó el consumo energético como una de las principales preguntas abiertas. Un modelo suficientemente capaz para operar con frecuencia o en segundo plano podría agotar la batería, incluso si necesita menos memoria.

Apple cuenta con una posible ventaja para resolver parte de esos desafíos. La empresa diseña los chips y el software del iPhone, lo que le permite controlar con mayor precisión la interacción entre el modelo, el sistema operativo y el hardware.

Impacto potencial sobre chips y centros de datos

El avance de PrismML aparece en un momento de intensa discusión sobre la demanda futura de memoria y capacidad de cómputo para inteligencia artificial. La memoria se ha convertido en uno de los principales límites y costos tanto en dispositivos de consumo como en servidores especializados.

Morgan Stanley estima que el costo promedio de la memoria dinámica de acceso aleatorio por bit de Apple podría aumentar aproximadamente un 190% interanual en el ejercicio fiscal 2027. La firma también calcula un incremento cercano al 180% en los costos de NAND.

La memoria NAND suele utilizarse en unidades flash y unidades de estado sólido. Morgan Stanley espera que Apple eleve aproximadamente USD $200 el precio inicial de modelos comparables del iPhone 18 para proteger sus márgenes.

PrismML sostiene que su método podría permitir que un modelo en la nube que normalmente necesita ocho unidades de procesamiento gráfico funcione con una. Además, afirma que algunos modelos que antes requerían un servidor podrían trasladarse a teléfonos y computadoras portátiles.

Eso podría reducir la cantidad de memoria o computación necesaria para una tarea específica. No obstante, la eficiencia por tarea no implica necesariamente una caída en la demanda total de chips.

Gil Luria, analista de D.A. Davidson, señaló que los modelos más pequeños no eliminan la necesidad de procesadores ni memoria. En su opinión, parte de esa demanda podría desplazarse desde los centros de datos hacia teléfonos y otros dispositivos.

Luria también advirtió que ejecutar inteligencia artificial en dispositivos individuales puede ser menos eficiente que utilizar infraestructura compartida. Los chips de los teléfonos permanecen inactivos durante buena parte del tiempo, mientras los centros de datos pueden distribuir sus recursos entre múltiples usuarios.

Otra posibilidad es que la eficiencia impulse un consumo mayor. Si los modelos se vuelven más rápidos y baratos, las empresas podrían crear nuevos productos y los usuarios podrían ejecutarlos con más frecuencia.

El mercado ya reaccionó con cautela a noticias que sugieren una menor necesidad de memoria. Las acciones de Micron cayeron en marzo después de que Google publicara su documento TurboQuant sobre la reducción del uso de memoria sin deteriorar el rendimiento del modelo, aunque luego se recuperaron.

El lanzamiento público de PrismML permitirá que usuarios e inversionistas comprueben si sus cifras se mantienen fuera del laboratorio. Para Apple, el resultado podría definir hasta dónde puede llevar la inteligencia artificial local sin sacrificar autonomía, precisión o una experiencia consistente.

El escenario más probable combina procesamiento local y servicios en la nube. Las tareas sensibles, críticas para la latencia o relacionadas con la privacidad podrían permanecer en el iPhone, mientras las solicitudes complejas se enviarían a servidores con mayor capacidad.

Ese equilibrio podría ayudar a Apple a mejorar Siri sin abandonar la integración entre hardware y software que diferencia a sus productos. También mostraría que la compresión no elimina la infraestructura de inteligencia artificial, sino que redistribuye dónde y cómo se utiliza.

Imagen original de DiarioBitcoin, creada con inteligencia artificial, de uso libre, licenciada bajo Dominio Público.

Este artículo fue escrito por un redactor de contenido de IA y revisado por un editor humano para garantizar calidad y precisión.


ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín

Artículos Relacionados