Por Canuto  

Mistral AI ofrece procesamiento regional y acceso prioritario, pero con recargos del 10% y 75% y excepciones para funciones clave. Te explicamos qué incluye y qué no.
***

  • La inferencia regional cuesta 10% más y solo funciona con llamadas a funciones, no con agentes ni lotes.
  • El Priority Tier ofrece un SLA del 99,5% y cuesta 75% más, pero requiere contrato con ventas.
  • La plataforma abrirá a modelos de terceros como GLM-5.2 de Z.ai, financiado con Unidades de Cómputo Europeas.

Mistral AI, la empresa francesa de inteligencia artificial, ahora ofrece a sus clientes empresariales tres opciones nuevas: procesar datos en servidores de la Unión Europea o Estados Unidos, un nivel de acceso prioritario para reducir la latencia, y la posibilidad de alojar modelos de terceros en su plataforma. Estas opciones, sin embargo, vienen con recargos de hasta el 75% y limitaciones significativas en cuanto a funciones y cobertura de datos.

Según informó el medio especializado The Decoder, estas decisiones forman parte de la estrategia de Mistral para consolidar su posición en el mercado europeo de IA, donde la soberanía de datos es una preocupación clave para bancos, gobiernos y aseguradoras.

Mistral lanza endpoints regionales en Europa y Estados Unidos

La inferencia regional está disponible de forma general. Los clientes pueden enviar solicitudes a un endpoint europeo (api.eu.mistral.ai) o a un endpoint de EE.UU. (api.us.mistral.ai), y el procesamiento permanece en esa región.

Este enrutamiento cuesta un 10% adicional sobre el precio estándar. Cualquiera que use el endpoint predeterminado no tiene garantía sobre dónde se procesa su solicitud.

Las rutas de red más cortas también implican menor latencia, un beneficio para aplicaciones en tiempo real.

Mistral enmarca esta medida como parte de una estrategia más amplia de soberanía de IA europea, según la publicación de su blog.

Para bancos, agencias gubernamentales y aseguradoras, la capacidad de demostrar que los datos no salen de la UE es un factor determinante.

Las limitaciones del procesamiento regional

Entre las herramientas adicionales de la plataforma, solo la llamada a funciones (function calling) funciona con endpoints regionales. Los agentes, el procesamiento por lotes y la gestión de archivos no están disponibles en esas direcciones.

La selección de modelos también varía según la región. Mistral no publica una lista fija; los clientes deben consultar cada endpoint para ver qué hay disponible.

La razón probable es la brecha entre una consulta de modelo simple y el almacenamiento de estado intermedio. Una llamada estándar no necesita almacenamiento persistente, mientras que los agentes, lotes y archivos lo requieren.

Mistral llama a estas funciones “con estado” (stateful). Probablemente requieren infraestructura adicional en el sitio, aunque la empresa no lo ha confirmado.

Además, la “soberanía” no es absoluta. La configuración de la cuenta, las claves de API, la facturación y las estadísticas de uso pueden procesarse fuera de la región elegida.

La publicación también menciona transferencias limitadas y seguras a subcontratistas fuera de la región. Lo que es regional es el paso de cómputo, no la plataforma completa.

La retención de datos depende de un ajuste separado llamado Zerro Data Retention. Los clientes que envían texto contractual directamente al modelo pueden ejecutarlo en el endpoint de la UE, pero quienes necesiten agentes o archivos no obtienen la misma garantía.

El nivel prioritario: una vía rápida para la latencia

La segunda oferta es el Priority Tier, actualmente en beta abierta. Todos los clientes comparten los mismos centros de datos, y cuando muchas solicitudes llegan a la vez, los tiempos de respuesta aumentan.

El Priority Tier es un carril rápido: las solicitudes de los clientes que pagan se procesan antes que el tráfico regular cuando hay congestión.

Mistral apunta a casos de uso donde la latencia cuesta dinero real, como un chatbot de servicio al cliente o un sistema de producción en una fábrica.

El nivel incluye un SLA de disponibilidad del 99,5%, que permite aproximadamente tres horas y media de inactividad al mes. El nivel estándar no tiene tal garantía.

Los clientes activan el acceso prioritario mediante un parámetro de API llamado service_tier. Configurarlo en “auto” envía la solicitud por el carril rápido cuando hay capacidad disponible.

El recargo es de 1,75 veces el precio estándar, es decir, un 75% adicional. Los descuentos por almacenamiento en caché de prompts se aplican primero; esos descuentos pueden alcanzar el 90%.

Cada cliente obtiene límites de velocidad negociados individualmente. Superar ese límite no hace fallar la solicitud, simplemente cae al procesamiento estándar.

La respuesta de la API muestra qué nivel realmente manejó la solicitud, para que los clientes verifiquen si están recibiendo lo que pagan. El Priority Tier no es autoservicio; requiere un contrato con ventas.

La plataforma se abre a modelos de terceros

Mistral abrirá su plataforma a modelos de otros proveedores. El primero es GLM-5.2 de la empresa china Z.ai, que se ejecutará bajo las mismas reglas y garantías regionales que los modelos propios.

Para financiar la capacidad de cómputo, Mistral recopila compromisos de compra plurianuales de grandes clientes, empaquetados como Unidades de Cómputo Europeas.

La idea es que construir nuevos centros de datos en Europa solo sea rentable si suficientes empresas se comprometen a largo plazo. Mistral es miembro de la Alianza Abierta de IA Segura y de la coalición Nemotron de Nvidia.

La empresa ve el alojamiento de pesos de terceros como una extensión natural de ese trabajo. Este movimiento podría diversificar la oferta de IA en Europa, ofreciendo alternativas a los modelos cerrados de otros proveedores.

El éxito dependerá de la adopción de las Unidades de Cómputo Europeas, que funcionan como compromisos financieros a largo plazo para asegurar la infraestructura necesaria. Con el procesamiento regional, las empresas europeas pueden mantener sus datos dentro de la UE.


ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín

Artículos Relacionados