Por Canuto  

Writer presenta Palmyra X6, un nuevo modelo de IA basado en GLM-5.2 de Z.ai, junto con un harness mejorado que promete reducir los costos de tokens hasta en 50% para tareas básicas. La CEO May Habib explica que las empresas están hartas de perseguir benchmarks y buscan costos planos, mientras crece la desconfianza hacia los grandes laboratorios de IA.
***

  • Writer lanza Palmyra X6, un modelo basado en GLM-5.2 de Z.ai, para reducir costos de tokens hasta 50%.
  • La compañía presenta mejoras en su harness agéntico, con investigaciones que muestran hasta 40% de ahorro en pruebas.
  • La CEO May Habib señala que los CIO están abandonando a los grandes laboratorios por los costos descontrolados.

Writer, la empresa especializada en herramientas y agentes de inteligencia artificial para profesionales del marketing, lanzó este jueves su nuevo modelo insignia Palmyra X6, junto con mejoras en su sistema de harness agéntico. Según la compañía, esta combinación permite reducir los costos de tokens hasta en un 50% para tareas básicas, una respuesta directa a la escalada de gastos que enfrentan las empresas en sus implementaciones de IA. La CEO May Habib explicó a TechCrunch que las organizaciones están cansadas de perseguir benchmarks y buscan estabilidad en los costos, algo que hasta ahora ningún proveedor ha ofrecido de manera convincente.

nn

El nuevo modelo se construye como una variación posterior al entrenamiento del modelo de código abierto GLM-5.2 de Z.ai, una decisión que le permite ofrecer capacidades listas para producción a un precio significativamente menor. La estrategia se alinea con una tendencia del mercado, donde los costos por token de los grandes laboratorios se han vuelto un dolor de cabeza para los departamentos de tecnología. De hecho, la investigación interna de Writer sugiere que la optimización del harness puede ser más efectiva para reducir gastos que la elección del modelo en sí.

nn

Palmyra X6: un modelo hecho para ahorrar

nn

Palmyra X6 está diseñado como una variante post-entrenamiento del modelo de código abierto GLM-5.2 de Z.ai, lo que le da a Writer la flexibilidad de ofrecer un modelo de alto rendimiento sin los costos asociados a los modelos propietarios de los grandes laboratorios. La compañía asegura que el nuevo sistema ofrece capacidades listas para implementar a un precio mucho más bajo, con una reducción estimada de hasta el 50% en los costos de tokens para tareas básicas. Esta reducción se logra mediante una combinación de arquitectura eficiente y un harness optimizado que gestiona mejor el uso de tokens en cada interacción.

nn

El anuncio llega en un momento crítico para la industria, donde los usuarios de IA enfrentan facturas cada vez más abultadas por el uso de modelos avanzados. Aunque los modelos de código abierto ofrecen precios por token más bajos, la dificultad para encontrar el modelo adecuado para cada tarea sigue siendo un obstáculo importante. Writer busca resolver ese problema integrando a Palmyra X6 dentro de su plataforma, de modo que los clientes puedan aprovechar sus capacidades sin preocuparse por los detalles técnicos de selección de modelos.

nn

La directora ejecutiva de Writer, May Habib, enfatizó que las empresas están “absolutamente hartas” de perseguir el siguiente benchmark. “Quieren que los costos se aplanen, y parece que nadie puede ofrecer eso”, dijo Habib a TechCrunch. La ejecutiva destacó que el nuevo enfoque pone especial énfasis en tareas complejas de varios pasos, ejecutadas más rápido y con menos tokens, lo que representa un cambio fundamental en la forma de abordar el gasto en IA.

nn

Palmyra X6 estará disponible para los clientes de Writer junto a otros modelos de la compañía o modelos externos importados a través de Azure o Amazon Bedrock. Esta flexibilidad permite que las empresas mantengan un enfoque agnóstico respecto al modelo, eligiendo la opción más rentable según sus necesidades específicas. Habib también señaló que la plataforma está diseñada para que la experiencia sea consistente, sin importar si el cliente usa Palmyra X6 u otro modelo, lo que facilita la adopción y el control de costos.

nn

El harness: la clave de la eficiencia

nn

El harness agéntico de Writer es el componente orquestador que gestiona cómo el modelo interactúa con las herramientas y ejecuta tareas complejas. En esta actualización, la compañía introdujo mejoras significativas que permiten reducir la cantidad de tokens necesarios para completar cada operación. Un estudio reciente de los investigadores de Writer probó pequeños cambios en la eficiencia del harness en múltiples modelos diferentes y encontró que estas modificaciones eran una forma más fiable de reducir costos que la elección del modelo en sí, con una caída promedio del 40% en los costos durante las pruebas.

nn

La investigación, publicada por el equipo técnico de Writer, llegó a una conclusión contundente: el harness es el único componente cuya eficiencia se multiplica en todos los modelos que una organización ejecuta, ya sean presentes o futuros. Esto significa que optimizar el harness genera ahorros acumulativos que se aplican a toda la infraestructura de IA, a diferencia de un modelo nuevo que solo beneficia a las tareas específicas para las que fue diseñado. Esta perspectiva posiciona al harness como una inversión estratégica para las empresas que buscan controlar sus gastos a largo plazo.

nn

Para los clientes de Writer, la mejora del harness se traduce en operaciones más rápidas y económicas, especialmente en tareas de varios pasos que requieren múltiples llamadas al modelo. La combinación de Palmyra X6 con el harness optimizado es particularmente efectiva, ya que el modelo fue diseñado para funcionar de manera eficiente con las nuevas rutinas de ejecución. Los desarrolladores también se benefician al poder configurar flujos de trabajo más complejos sin temer un aumento desproporcionado en el consumo de tokens.

nn

La eficiencia del harness no solo afecta el costo por operación, sino que también influye en la velocidad de respuesta. Al reducir la cantidad de intercambios entre el modelo y las herramientas, las tareas se completan en menos tiempo, lo que mejora la experiencia del usuario final. En un entorno empresarial competitivo, esta ventaja puede ser decisiva para adoptar IA en procesos críticos de negocio, donde el tiempo de ejecución es tan importante como el costo económico.

nn

Desconfianza y costo: el dilema de los laboratorios

nn

La estrategia de Writer refleja una tendencia más amplia en la industria: la creciente desconfianza hacia los grandes laboratorios de IA, que tienen un incentivo financiero para aumentar el uso de tokens. Habib señaló que la explosión de costos es “sencillamente sin precedentes” para los clientes, y que el grado en que los CIO están renunciando a los laboratorios también ha alcanzado niveles inéditos. “Los laboratorios no entienden en profundidad cómo ayudar a una empresa a obtener beneficios de la IA”, agregó la ejecutiva, subrayando la desconexión entre los proveedores de modelos y las necesidades operativas de las organizaciones.

nn

Este escepticismo se ve alimentado por el hecho de que los modelos más avanzados suelen tener precios por token elevados, y las empresas terminan pagando facturas que superan con creces sus presupuestos iniciales. La opción de recurrir a modelos de código abierto ha ganado popularidad, pero la falta de herramientas de orquestación eficientes a menudo anula el ahorro en costos. Writer, al combinar un modelo accesible con un harness optimizado, busca ofrecer una solución integral que ataque el problema desde ambos frentes.

nn

La respuesta de los CIO ante esta situación es cada vez más contundente: muchos están replanteando sus contratos con los grandes laboratorios y explorando alternativas más flexibles y económicas. La decisión de Writer de construir su modelo sobre una base de código abierto es una señal clara de hacia dónde se dirige el mercado. Para Habib, la pregunta no es solo cómo reducir costos, sino cómo asegurar que la IA aporte valor real a las empresas, algo que los laboratorios aún no han comprendido completamente.

nn

En este contexto, la introducción de Palmyra X6 y el harness mejorado no solo representa un avance técnico, sino también una postura estratégica frente a los actores dominantes del sector. Writer apuesta por la transparencia y la eficiencia como herramientas para recuperar la confianza de las empresas, ofreciendo soluciones que se adaptan a las realidades presupuestarias en lugar de exigir gastos desproporcionados. Con esta oferta, la compañía espera consolidarse como un socio confiable en el ecosistema de IA, donde la reducción de costos se ha convertido en una prioridad indiscutible.

nn

La iniciativa de Writer llega en un momento en que el debate sobre el costo de la IA se ha vuelto omnipresente, desde startups hasta corporaciones multinacionales. La compañía, con sede en Estados Unidos, ha logrado posicionarse como una alternativa viable para quienes buscan implementar IA sin comprometer su presupuesto. Habib confía en que esta nueva versión de su plataforma será un punto de inflexión, y que las empresas finalmente encontrarán en Writer una solución que equilibra calidad y costo.

nn

El futuro inmediato de Writer estará marcado por la adopción de Palmyra X6 entre sus clientes, así como por la medición de los ahorros reales en producción. Los resultados de la investigación sobre el harness sugieren que las mejoras podrían ser incluso mayores de lo esperado, lo que podría acelerar la migración de empresas hacia soluciones más eficientes. Mientras tanto, los grandes laboratorios enfrentan el desafío de demostrar que pueden ofrecer valor sin inflar los costos, una tarea que se vuelve más urgente cada día.


ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín

Artículos Relacionados