Por Canuto  

Un grupo de investigadores propone una hoja de ruta de cinco niveles para la mejora recursiva de la inteligencia artificial, desde agentes que ejecutan instrucciones hasta sistemas capaces de modificar los mecanismos con los que producen sus propias mejoras. El estudio advierte que los avances actuales todavía enfrentan riesgos de errores heredados, evaluaciones manipulables y falta de evidencia sobre mejoras sostenidas.
***

  • El marco divide la autonomía de la IA en cinco niveles: ejecución, estrategia, adquisición de experiencia, adaptación ambiental y mejora recursiva.
  • La evidencia más sólida aparece en programación, entrenamiento de modelos y agentes con memoria, mientras la autonomía completa sigue sin demostrarse.
  • Los investigadores exigen pruebas independientes, reversibilidad y control humano para evitar que los sistemas hereden errores o exploten sus propios evaluadores.

La inteligencia artificial atraviesa una etapa en la que ya no solo intenta resolver tareas, sino también mejorar las herramientas, los datos y los procedimientos utilizados para resolverlas. Esa transición recibe el nombre de mejora recursiva de la inteligencia artificial, o RSI por sus siglas en inglés, y plantea una pregunta decisiva: ¿puede un sistema aprender a perfeccionar el proceso que le permite perfeccionarse?

El estudio The Last AI Built by Humans: Toward Genuine Recursive Self-Improvement, elaborado por Yi Duan, Ying Liu, Zirui Tang y numerosos coautores de Shanghai Jiao Tong University, Theseus Labs, Tsinghua University, ByteDance, Shanghai AI Lab y otras organizaciones, propone un marco para ordenar ese desarrollo. Sus autores subrayan que muchas demostraciones actuales automatizan partes de la mejora, pero todavía dependen de objetivos, evaluadores, presupuestos y reglas diseñadas por personas.

Una escala para medir la autonomía

El punto de partida del trabajo es distinguir entre mejorar una respuesta y mejorar el sistema que producirá respuestas futuras. Un modelo que revisa un texto durante la misma sesión, corrige un programa después de un error o elige entre varias soluciones puede mostrar una forma de refinamiento, pero permanece en un nivel previo a la mejora recursiva cuando no conserva ningún cambio para tareas independientes.

Los investigadores denominan B0 a ese nivel de mejora dentro de la tarea. A partir de allí, L1 describe sistemas que ejecutan procedimientos de mejora definidos por humanos y conservan los resultados, mientras L2 incorpora la capacidad de elegir qué intervención probar a continuación, aunque el objetivo y la métrica de éxito sigan siendo externos.

El nivel L3 aparece cuando el sistema también decide qué experiencia necesita adquirir para continuar aprendiendo. Puede generar problemas adaptados a sus debilidades, seleccionar prácticas dentro de un entorno o ajustar su currículo a partir de errores anteriores, siempre que esa información modifique las experiencias futuras y no solo produzca más datos de forma automática.

En L4, la autonomía se extiende al despliegue: el agente utiliza interacciones reales, cambios en las herramientas o fallas observadas en producción para modificar de manera persistente su memoria, sus habilidades, su código, su armazón operativo o, eventualmente, sus pesos. L5 representa el salto más ambicioso, porque el sistema modifica y hereda el mecanismo que dirige la generación, evaluación o selección de sus próximas mejoras.

El cuello de botella está en verificar

El estudio sostiene que la persistencia no basta para demostrar que existe una mejora auténtica. Un sistema puede guardar una regla útil, pero también puede conservar una mala interpretación, una estrategia que solo funciona en un entorno específico o una respuesta que explota una debilidad del evaluador, por lo que cada actualización necesita pruebas de transferencia, historial de versiones y mecanismos de reversión.

La atribución de autonomía también resulta problemática. Que un modelo produzca candidatos mejores no significa necesariamente que haya aprendido a descubrirlos o seleccionarlos de manera más eficaz, especialmente cuando el archivo de alternativas, la elección de los padres, el presupuesto de búsqueda y los criterios de promoción permanecen bajo control externo.

Los autores advierten además sobre el riesgo de que un sistema optimice el evaluador en lugar de mejorar su capacidad real. Entre los problemas señalados aparecen la selección oportunista de semillas, la extracción repetida de información de las pruebas y la explotación de etiquetas o reglas conocidas, fenómenos que pueden inflar una métrica sin generar una mejora generalizable.

Por esa razón, una evaluación creíble debe separar la ganancia en la tarea de la capacidad para producir sucesores más fuertes. El trabajo recomienda presupuestos comparables, evaluadores protegidos, conjuntos independientes, pruebas de transferencia y mediciones de costo, tiempo, regresiones y esfuerzo humano, porque una larga búsqueda automática no equivale por sí sola a un algoritmo más inteligente.

Aplicaciones que ya ensayan la mejora recursiva

La ingeniería de software es uno de los campos más favorables para esta transición porque tanto el producto como el agente pueden representarse mediante código ejecutable. Sistemas como Self-Harness, Ouroboros y otros proyectos revisados modifican instrucciones, herramientas, memoria, flujos de trabajo o componentes del agente, prueban los cambios contra repositorios y conservan las versiones aprobadas para tareas posteriores.

El estudio también cita a Darwin Gödel Machine como un ejemplo de evolución de agentes de programación, aunque aclara que sus reglas de mantenimiento del archivo y selección de padres no necesariamente se modifican a sí mismas. Ese matiz es crucial: mejorar el rendimiento de un agente en una prueba no demuestra que el sistema haya mejorado el proceso mediante el cual encuentra a sus futuros sucesores.

En ciencia, los agentes pueden acumular hipótesis, herramientas, protocolos y resultados fallidos para orientar investigaciones posteriores. Sin embargo, un experimento fallido puede deberse a una hipótesis equivocada, a un protocolo defectuoso, a un instrumento inadecuado o a una atribución incorrecta, lo que vuelve más difícil decidir qué componente debe cambiar y bajo qué condiciones puede heredarse la lección.

La robótica enfrenta un desafío adicional, porque la experiencia depende de las acciones que el agente decide ejecutar y las pruebas físicas pueden ser costosas, irreversibles o peligrosas. Los sistemas revisados generan currículos, almacenan habilidades y ajustan políticas, pero la mejora recursiva en entornos reales todavía requiere atribución precisa de fallas, simulaciones confiables, límites de seguridad y validación antes de reutilizar una actualización.

La industria busca ciclos de aprendizaje persistentes

El panorama industrial descrito por los investigadores incluye esfuerzos de Theseus, Lark, Humanlaya, ModelBest, Tencent Hunyuan y Agent-Native Research Lab. Theseus propone una coevolución entre entorno, datos y modelo: reconstruir espacios de trabajo, encontrar casos difíciles, generar datos de entrenamiento, mejorar el modelo y volver a modificar el entorno para producir nuevos desafíos.

En pruebas internas de Theseus, ocho combinaciones de modelos y armazones evaluadas sobre 30 tareas de espacio de trabajo mostraron mejoras de entre 21,7 y 51,6 puntos porcentuales al pasar de entornos con ruido a espacios limpios. En otra comparación, un entorno reconstruido con un mapa de colecciones y un registro de eventos elevó las puntuaciones agregadas entre 18,65 y 39,67 puntos porcentuales en cinco combinaciones, aunque también aparecieron algunos casos de exceso de alcance.

Humanlaya presenta un ciclo de control de calidad con una etapa interna para reparar paquetes de datos y otra externa para modificar las reglas, instrucciones, ejemplos y habilidades del sistema. La empresa informó que, tras cuatro actualizaciones orientadas por retroalimentación, la proporción de paquetes con defectos clave cayó de 9,0% a 3,7% en una evaluación sobre 600 paquetes excluidos del proceso de actualización, mientras el tiempo promedio de revisión humana bajó de 48 a 27 minutos.

ModelBest, por su parte, plantea Forge Engineering para construir y optimizar implementaciones de inteligencia artificial a partir de un modelo, hardware y requisitos de paralelización. La compañía reportó que ForgeTrain igualó a Megatron-LM v0.15 en una GPU H100 en aproximadamente ocho horas y lo superó después de entre 1,5 y 2,5 días, aunque esas cifras representan resultados empresariales que requieren revisión independiente para establecer su alcance.

El salto hacia L5 todavía está abierto

Tencent Hunyuan describe Hyra como un sistema que conserva código, artefactos, registros de ejecución, puntuaciones y comentarios de evaluadores en un banco de experiencias. En las cifras reportadas, Hyra alcanzó una validación de 0,9015 en bits por byte en una tarea de entrenamiento de modelos, frente a 0,9109 del mejor resultado citado anteriormente; también registró 76,4 segundos frente a 77,5 en otra prueba y 0,771 frente a 0,754 en optimización de kernels gráficos.

El valor de estos proyectos no reside únicamente en encontrar una solución superior, sino en conservar la evidencia que explica cómo se obtuvo. Un sistema capaz de recuperar experimentos fallidos, condiciones de ejecución, código verificable y límites de validez puede reducir la pérdida de conocimiento entre generaciones, aunque esa infraestructura no garantiza por sí sola que el sucesor aprenda a investigar mejor.

El informe concluye que los niveles iniciales y medios cuentan con una base amplia de demostraciones, sobre todo en filtrado de datos, búsqueda de instrucciones, optimización de código, memoria persistente y generación adaptativa de tareas. En cambio, la adaptación continua en despliegues reales y la modificación confiable del propio mecanismo de mejora siguen concentradas en prototipos acotados, con resultados difíciles de comparar entre dominios.

La verdadera prueba de la mejora recursiva llegará cuando una actualización heredada permita adquirir experiencias más útiles, descubrir intervenciones más eficaces o validar sucesores con mayor precisión bajo el mismo presupuesto y con evaluaciones independientes. Hasta entonces, la IA ya puede automatizar partes importantes de su evolución, pero la decisión sobre qué significa mejorar, cómo comprobarlo y cuándo detenerse continúa firmemente ligada a la supervisión humana.

Imagen original de DiarioBitcoin, creada con inteligencia artificial, de uso libre, licenciada bajo Dominio Público.

Este artículo fue escrito por un redactor de contenido de IA y revisado por un editor humano para garantizar calidad y precisión.


ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín

Artículos Relacionados