Por Canuto  

Recursive presentó Flint, un modelo de inteligencia artificial para codificación agentiva que puede ejecutarse en hardware local. La empresa asegura que combina resultados competitivos en pruebas de programación con velocidades superiores a las de modelos comparables, y atribuye parte de su desarrollo a un sistema automatizado de investigación llamado Máquina Eureka.
***

  • Flint tiene 40.000 millones de parámetros totales y activa 2.500 millones por token.
  • Recursive reporta más de 125 tokens por segundo en un MacBook Pro M4 Pro y más de 150 en una NVIDIA RTX Spark de 64 GB, en contextos cortos.
  • Los pesos están disponibles bajo licencia Apache 2.0 y el modelo funciona con herramientas como llama.cpp, Ollama y LM Studio.

Recursive presentó Flint, un modelo de inteligencia artificial diseñado para tareas de programación agentiva y ejecución en hardware local. La compañía afirma que su sistema de mezcla de expertos, conocido como MoE, reúne 40.000 millones de parámetros, aunque activa solo 2.500 millones por token, una configuración que busca combinar capacidad y velocidad en computadoras personales.

Un modelo para codificar desde el equipo propio

La propuesta de Flint se dirige a quienes quieren delegar tareas de programación a un modelo sin enviar sus datos a un servidor remoto. Recursive plantea que su ejecución local también permite trabajar sin conexión y evitar tarifas de API, aunque el rendimiento concreto dependerá del hardware y de la configuración que utilice cada persona.

En un modelo MoE, distintos grupos de parámetros, llamados expertos, pueden intervenir de acuerdo con cada token procesado. En el caso de Flint, la compañía destaca que los 2.500 millones de parámetros activos por token son una fracción de los 40.000 millones totales, una decisión que, según su explicación, contribuye a reducir el trabajo requerido durante la generación.

Recursive afirma que Flint lidera entre los modelos MoE con menos de 50.000 millones de parámetros totales en pruebas de codificación agentiva. La empresa también sostiene que iguala el rendimiento de modelos densos de entre 25.000 y 40.000 millones de parámetros, mientras funciona más de cinco veces más rápido. Estas comparaciones corresponden a los resultados que presenta la compañía y no se describen como verificados por una entidad independiente.

La compañía cita pruebas como SWE-Bench Pro v2, Terminal-Bench 2.1 y SWE-Bench Verified, junto con LiveCodeBench v6, IFBench e IFEval. En lugar de destacar aquí puntuaciones numéricas individuales, Recursive describe a Flint como un modelo de alto desempeño dentro de su categoría y detalla las condiciones que empleó para evaluar distintas tareas de codificación.

Velocidad, contexto y herramientas compatibles

En cuanto a la velocidad de generación, Recursive reporta más de 125 tokens por segundo en un MacBook Pro con chip M4 Pro y más de 150 en una NVIDIA RTX Spark con 64 GB de memoria, en contextos cortos. La empresa afirma que, en esos equipos, Flint puede alcanzar hasta el doble de velocidad que otros modelos comparables de su clase.

La metodología que acompaña las cifras importa para entender sus límites: la compañía midió el promedio de tokens por segundo durante una sesión de 128.000 tokens y excluyó el prellenado. Para Muse, indicó una medición de 124.000 tokens, por lo que las cifras no deben leerse como una garantía de velocidad idéntica en cualquier dispositivo, tarea o longitud de contexto.

Flint admite ventanas de contexto de hasta 512.000 tokens, pero Recursive recomienda mantenerse por debajo de 256.000 para obtener mejores resultados en programación y otras tareas. También aconseja dividir los trabajos complejos en subtareas más pequeñas y dar instrucciones explícitas, una recomendación que reconoce que el modelo puede requerir más orientación que sistemas de codificación cerrados de mayor tamaño.

Los pesos de Flint están disponibles en Hugging Face bajo la licencia Apache 2.0, que permite descargarlos y adaptarlos a aplicaciones propias conforme a sus condiciones. Según Recursive, el modelo es compatible con herramientas y marcos como llama.cpp, Ollama, Unsloth, LM Studio, vLLM y SGLang, además de rec, un motor de inferencia ligero que la empresa optimizó para ciertos equipos Apple.

La Máquina Eureka y el desarrollo del modelo

Recursive atribuye buena parte del trabajo a la Máquina Eureka, su sistema de investigación automatizada para proponer ideas, implementarlas, probarlas y utilizar los resultados para decidir los siguientes experimentos. La herramienta explora varios enfoques en paralelo, reutiliza hallazgos anteriores y combina propuestas prometedoras, según la descripción publicada por la empresa.

La compañía sostiene que el sistema intervino en casi toda la cadena de desarrollo de Flint, desde los datos y las recetas de entrenamiento hasta la infraestructura y la optimización de inferencia. Recursive agrega que un equipo pequeño, trabajando con esa herramienta, construyó el modelo desde cero en menos de cuatro meses, un plazo que presenta como resultado de automatizar parte de la investigación y la experimentación.

En el diseño de arquitectura, la Máquina Eureka partió de una configuración de referencia con 35.000 millones de parámetros totales y 3.000 millones activos por token. Después exploró configuraciones y tamaños distintos para los expertos; Recursive afirma que las pruebas señalaron la arquitectura final de Flint, con 40.000 millones de parámetros totales y 2.500 millones activos, como la mejor combinación de velocidad y desempeño de codificación entre las opciones evaluadas.

El sistema también buscó reducir el consumo de memoria mediante cuantización, una técnica que representa los pesos del modelo con menos bits. Recursive destaca que cuantizó a 4 bits la capa de salida, llamada lm_head, en contraste con una práctica que describe como habitual, y luego añadió una etapa de destilación sin conexión para recuperar precisión utilizando respuestas previas del modelo y una versión de 16 bits como referencia.

Optimización, pruebas y próximos pasos

La empresa afirma que la etapa de destilación redujo casi a la mitad los pasos de entrenamiento frente a su línea base de entrenamiento consciente de la cuantización. Según sus mediciones, la versión final NVFP4 quedó a menos de 0,7 puntos del modelo de 16 bits en el conjunto de pruebas reportado, aunque la publicación no acompaña esa afirmación con una tabla de resultados desglosados en el contenido disponible.

Para ejecutar la versión cuantizada, la Máquina Eureka también produjo kernels especializados para proyecciones de baja precisión, operaciones MoE, atención y procesamiento de indicaciones, ajustados a los dispositivos objetivo. En chips M4 y M5, Recursive desarrolló un megakernel Metal que fusiona los pasos de decodificación, una optimización que, de acuerdo con la empresa, ayuda a convertir la eficiencia del modelo en una generación más rápida.

Las evaluaciones de codificación agentiva utilizaron pass@1 y, según la publicación, al menos cinco intentos, con tiempos de espera de hasta cinco horas para el agente. En Terminal-Bench 2.1, Recursive empleó Terminus 2 en formato XML y acceso a internet, pero contó como fallidas las soluciones obtenidas mediante recuperación; para SWE-Bench Pro v2 y SWE-Bench Verified utilizó mini-swe-agent sin acceso a internet.

En las pruebas de turno único LiveCodeBench v6, IFBench e IFEval, la empresa calculó el promedio de pass@1 en cinco intentos y especificó parámetros de muestreo de temperatura 1, top-p 0,95 y top-k 20 para las evaluaciones de Flint. Recursive presenta el modelo como un punto de partida para su meta de construir una superinteligencia recursivamente auto-mejorable, y plantea que sistemas más capaces podrían fortalecer la Máquina Eureka y acelerar el desarrollo de futuras generaciones de modelos locales.

Imagen original de DiarioBitcoin, creada con inteligencia artificial, de uso libre, licenciada bajo Dominio Público.

Este artículo fue escrito por un redactor de contenido de IA y revisado por un editor humano para garantizar calidad y precisión.


ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín

Artículos Relacionados