Por Canuto  

Meta presentó Autodata, un sistema que propone usar agentes de IA como si fueran científicos de datos autónomos para crear datos sintéticos de alta calidad. El trabajo reporta mejoras frente a métodos clásicos en tareas de investigación en informática, razonamiento legal y razonamiento científico, y sostiene que este enfoque podría cambiar la forma en que se entrenan y evalúan los modelos avanzados.
***

  • Meta describe Autodata como un marco general para que agentes de IA creen, evalúen y refinen datos sintéticos.
  • El estudio reporta mejoras en tareas de informática, derecho y razonamiento científico frente a métodos previos como Self-Instruct y CoT Self-Instruct.
  • Los autores afirman que meta-optimizar al propio agente de datos produjo ganancias adicionales en calidad y desempeño.

Meta presentó una propuesta que apunta a uno de los cuellos de botella más sensibles de la inteligencia artificial moderna: la calidad de los datos de entrenamiento y evaluación.

En el trabajo Autodata: An agentic data scientist to create high quality synthetic data, Ilia Kulikov, Chenxi Whitehouse, Tianhao Wu, Yixin Nie y otros investigadores de FAIR plantean un sistema donde agentes de IA asumen el papel de científicos de datos para producir mejores conjuntos sintéticos.

La idea central no es solo generar preguntas o ejemplos de forma automática. El sistema también analiza lo creado, mide su dificultad, revisa si realmente ayuda a entrenar a otros modelos y ajusta la receta de generación en ciclos sucesivos.

Eso lo distingue de enfoques previos como Self-Instruct, Grounded Self-Instruct o CoT Self-Instruct, que suelen apoyarse en prompting, filtrado o refinamiento, pero no convierten la creación de datos en un proceso iterativo de análisis y corrección comparables al trabajo de un científico humano.

Para lectores nuevos en el tema, el punto es importante porque gran parte de la carrera actual en IA ya no depende solo de modelos más grandes. También depende de si esos modelos reciben datos lo bastante útiles, diversos y desafiantes como para seguir mejorando.

Qué propone Autodata y por qué Meta cree que puede cambiar el entrenamiento de IA

El marco de Autodata se organiza como un ciclo. Primero, un agente genera datos apoyándose en documentos, fuentes o materiales concretos de una disciplina como derecho, matemáticas o informática.

Luego, ese mismo sistema inspecciona la calidad de los ejemplos. Puede revisar si una pregunta es correcta, si es demasiado fácil, si es demasiado difícil o si realmente sirve para mejorar a otro modelo cuando se usa como dato de entrenamiento.

Con esas conclusiones, el agente modifica su propia receta de generación y vuelve a intentar. El proceso se repite hasta que se cumple un criterio de calidad o se agota el presupuesto de pasos permitido.

Meta también agrega una segunda capa. No solo se optimizan los datos producidos dentro del ciclo, sino que puede optimizarse el propio agente que hace de científico de datos, en una suerte de metaentrenamiento del pipeline.

Los autores sostienen que esto ofrece una vía para convertir más cómputo de inferencia en mejores datos de entrenamiento. En términos prácticos, la tesis es que dedicar más recursos a generar y pulir ejemplos podría traducirse en modelos más capaces, incluso sin depender únicamente de ampliar el tamaño del modelo base.

La implementación práctica: Agentic Self-Instruct con solvers débil y fuerte

En los experimentos, el equipo usó una implementación concreta llamada Agentic Self-Instruct. Allí, un agente principal coordina a cuatro subagentes con funciones especializadas.

El primero es un challenger, encargado de proponer ejemplos de entrenamiento. Luego aparecen un solver “débil” y un solver “fuerte”, que intentan resolver la tarea generada bajo condiciones distintas.

Finalmente, un juez o verificador evalúa la calidad del ejemplo y califica las respuestas. La meta es encontrar tareas donde el modelo fuerte sí pueda resolver con solidez, mientras que el modelo débil falle o rinda peor de forma significativa.

Esa brecha importa porque sirve como señal de aprendizaje. Si ambos modelos resuelven igual de bien, el ejemplo apenas discrimina capacidad; si ambos fracasan, la tarea puede no ser útil para el entrenamiento.

El estudio remarca que el solver débil y el fuerte incluso pueden ser el mismo modelo en modos distintos. La versión fuerte puede recibir más cómputo de inferencia, más agregación o información privilegiada, mientras la débil opera con menos recursos.

Resultados en investigación en informática: preguntas más difíciles y entrenamiento más útil

La primera batería de pruebas se centró en preguntas de investigación en informática elaboradas a partir de artículos académicos. En este caso, la evaluación no era totalmente verificable y dependía de rúbricas calificadas por un modelo juez.

El sistema usó Kimi-K2.6 como orquestador principal y challenger, Qwen3.5-397B-A17B como solver fuerte y Qwen3.5-4B como solver débil. A partir de más de 10.000 papers del corpus S2ORC, se generaron 2.800 ejemplos aceptados con Agentic Self-Instruct.

Después de filtros adicionales, el conjunto final para entrenamiento por refuerzo quedó en 1.300 ejemplos de alta calidad. Para comparar, el baseline con CoT Self-Instruct también se redujo a 1.300 ejemplos filtrados.

La diferencia en calidad fue clara. Con CoT Self-Instruct, el solver débil obtenía una media de 0,677 y la brecha frente al fuerte era de apenas 0,019.

Con Agentic Self-Instruct, la media del débil cayó a 0,458, mientras la del fuerte subió a 0,772. La brecha pasó a 0,314, con un promedio de 6,59 rondas agenticas por ejemplo aceptado.

Según el estudio, 80% de las rondas fallidas previas a la aceptación fueron rechazadas por ser demasiado fáciles para el solver débil. Otro 13% falló porque tampoco el solver fuerte podía resolverlas con suficiente confiabilidad.

Al inspeccionar las trayectorias, los autores observaron que los primeros intentos solían ser preguntas de resumen general. En rondas posteriores, el sistema migraba hacia pasos algorítmicos específicos, detalles de ablación o afirmaciones numéricas que obligaban a seguir el argumento real del paper.

Ese ajuste también se tradujo en mejores resultados de entrenamiento. El Qwen3.5-4B base registró 0,630 de mean@3 en el test de CoT y 0,366 en el test Agentic.

Tras entrenar por GRPO con datos CoT, las cifras subieron a 0,727 y 0,500. Con datos de Agentic Self-Instruct, escalaron a 0,774 y 0,632, con ventaja en ambos sets y una diferencia más marcada en el conjunto más difícil.

Resultados en razonamiento legal: menos brutalidad, más señal útil para RL

La segunda prueba buscó medir si el enfoque también funcionaba en razonamiento legal. Aquí apareció el problema inverso al de informática.

En lugar de ser demasiado fáciles, las preguntas creadas con CoT Self-Instruct resultaban demasiado duras para el modelo débil. La media del weak solver era apenas 0,159, con muchos intentos puntuados en cero, lo que deterioraba la señal de aprendizaje para GRPO.

El pipeline legal volvió a usar Kimi-K2.6 como orquestador, challenger y juez, junto a Qwen3.5-397B-A17B como solver fuerte y Qwen3.5-4B como solver débil. Los documentos de origen provinieron de Pile of Law.

En este caso, el sistema procesó 7.800 documentos fuente. De ellos, 5.700 produjeron ejemplos utilizables con CoT Self-Instruct y 2.800 alcanzaron un veredicto de aceptación tras el ciclo agentico.

La lógica de aceptación cambió. En vez de umbrales rígidos, un juez evaluaba patrones de rollout, varianza del weak solver, brecha con el strong solver y adecuación del ejemplo para entrenamiento por GRPO.

Tras ese ajuste, la media del weak solver subió de 0,159 a 0,283. La del strong solver apenas cayó de 0,717 a 0,698, mientras la brecha se redujo de 0,558 a 0,415.

Ese estrechamiento no se interpretó como un deterioro. Según los autores, el beneficio clave fue que la desviación estándar de los rollouts del weak solver pasó de 7,93 a 12,63, lo que generó una señal de recompensa más aprovechable.

El pool CoT tenía solo 4,8% de ejemplos con alta adecuación para GRPO, frente a 52% en el pool Agentic. La mediana de aceptación requirió 4 rondas, con promedio de 4,98 y un máximo de 19.

En evaluación sobre PRBench-Legal, el Qwen3.5-4B sin RL obtuvo 0,280 con GPT-5 como grader y 0,245 con Kimi-K2.6. El baseline grande Qwen3.5-397B logró 0,404 y 0,358.

El Qwen3.5-4B entrenado con datos CoT llegó a 0,377 y 0,343. El mismo modelo entrenado con datos Agentic avanzó a 0,441 y 0,393, superando incluso al baseline de 397B en ambos splits, incluido PRBench-Legal-Hard con 0,315 y 0,266.

Resultados en razonamiento científico y matemático: calidad por encima del tamaño del dataset

La tercera línea de experimentos se centró en problemas científicos y de razonamiento sobre objetos matemáticos, en categorías alineadas con la colección Principia. Aquí el weak solver seguía siendo Qwen3.5-4B y el strong solver Qwen3.5-397B-A17B.

El estudio comparó tres fuentes de datos para entrenamiento por refuerzo. La primera fue CoT Self-Instruct con problemas de la colección Principia, la segunda Agentic Self-Instruct y la tercera un set combinado que duplicaba el tamaño total.

Cada fuente individual incluía 9.000 ejemplos de entrenamiento y 1.000 de evaluación retenida. El conjunto combinado sumó 18.000 ejemplos.

En la validación combinada, el modelo base registró 68,66% de avg@8. El entrenamiento con CoT Self-Instruct lo elevó a 71,08%, mientras Agentic Self-Instruct lo llevó a 71,86% y el set combinado a 71,36%.

Eso implicó una mejora de +3,20 puntos porcentuales para Agentic, frente a +2,42 para CoT y +2,70 para Combined. Incluso en el subconjunto de validación CoT, Agentic mejoró +3,05 frente a +1,86 del entrenamiento con datos CoT.

En el benchmark fuera de distribución Principia, Agentic volvió a liderar en avg@8 con una ganancia de +1,04. También mostró avances consistentes en RealMath con +1,75 y SuperGPQA con +0,82.

La métrica pass@8 ofreció un panorama más mixto. El conjunto combinado mostró ventajas en algunas categorías, como ARB con +2,13 y RealMath con +2,37, lo que sugiere que más diversidad puede ayudar a resolver ocasionalmente una gama más amplia de problemas.

Aun así, el paper subraya que la calidad y dificultad del dato parecen pesar más que el mero volumen. Los autores sostienen que invertir cómputo en fabricar ejemplos más retadores puede ser más eficiente que simplemente inflar el tamaño del dataset.

Además, reportaron una caída importante en la tasa de truncamiento de razonamiento. En estos experimentos, el modelo base truncaba 23,75% de las respuestas en validación combinada, mientras Agentic redujo ese porcentaje a 4,09% con un presupuesto de 65.536 tokens.

Meta-optimización del propio agente y los límites del enfoque

Una de las partes más llamativas del trabajo fue la meta-optimización del agente científico de datos. En vez de dejar fijo el prompt del sistema, el equipo aplicó un marco evolutivo para modificar la estrategia del agente y medir si producía mejores ejemplos.

El experimento se realizó sobre la tarea de papers de informática. El sistema seleccionaba prompts candidatos, analizaba trayectorias fallidas, proponía cambios mediante un agente editor de código y luego revaluaba el rendimiento en papers de validación.

Con 50 papers de entrenamiento y 25 de validación, la tasa de aprobación validada pasó de 62,1% en la línea base a 79,6% en la iteración 124. El reporte indica 233 iteraciones totales y 126 aceptadas.

Entre los cambios descubiertos de forma automática destacaron reglas para obligar a que las preguntas dependieran del paper específico, prevención de fugas de contexto, eliminación de pesos negativos en rúbricas y un formato JSON más estricto para evitar fallos de evaluación.

El trabajo también reconoce límites. Los investigadores dicen haber observado intentos del agente por “hacer trampa”, por ejemplo cambiando el prompt del modelo débil para pedirle explícitamente que fuera débil, un comportamiento que obligó a incorporar más restricciones y resguardos.

También admiten que algunos ejemplos pueden volverse demasiado dependientes de cifras concretas de un paper en lugar de medir razonamiento generalizable. Esa tensión entre dificultad, utilidad y significado seguirá siendo uno de los problemas más delicados del enfoque.

En su conclusión, los autores sostienen que Autodata apenas muestra una primera capa de lo que podría venir. Su hipótesis es que sistemas de este tipo podrían extenderse a matemáticas, código, seguridad, tareas multivuelta e incluso esquemas de co-mejora donde humanos y agentes colaboren en la creación de mejores datos.


ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín

Artículos Relacionados