Por Canuto  

Los modelos de frontera han ampliado sus capacidades mediante cantidades masivas de datos y cómputo, pero todavía aprenden de forma mucho menos eficiente que los humanos. Esta brecha podría limitar la automatización de tareas complejas, la robótica y la investigación de inteligencia artificial.
***

  • Los modelos de frontera pueden entrenarse con decenas a cientos de trillones de tokens, frente a unos 200 millones de tokens lingüísticos que una persona podría recibir hasta la adultez.
  • El aprendizaje por refuerzo genera datos sintéticos, pero depende de ejemplos especializados y de verificadores capaces de identificar las respuestas correctas.
  • Escalar el tamaño de los modelos actuales no bastaría para cerrar una brecha de eficiencia de muestra que, según el análisis, alcanza entre miles y millones de veces.

El verdadero motor del progreso

La inteligencia puede medirse mediante la eficiencia de muestra, es decir, la cantidad de datos que una entidad necesita para desenvolverse con competencia en un dominio. Para Dwarkesh Patel, este indicador revela una debilidad central de los sistemas actuales de inteligencia artificial.

El análisis presentado en The data black hole at the center of AI sostiene que la IA no ha mejorado demasiado su capacidad de aprender con pocos ejemplos. Su avance proviene, sobre todo, de ampliar la distribución de datos y aumentar el cómputo utilizado para producirlos.

El aprendizaje por refuerzo representa una de las principales vías para conseguir ese progreso. El método puede entenderse como una forma de generar datos sintéticos mediante grandes cantidades de cómputo, un verificador o un modelo que actúe como juez.

El sistema explora numerosas trayectorias y selecciona aquellas que cumplen con un criterio correcto. Después, el modelo aprende a predecir esos despliegues, de manera similar a como aprende a anticipar la siguiente palabra a partir de textos disponibles en internet.

Sin embargo, este proceso exige que el modelo tenga alguna probabilidad previa de encontrar la solución correcta. Por ello, necesita enormes cantidades de trayectorias elaboradas por expertos humanos en cada campo donde se busca desarrollar competencia.

Una industria basada en expertos

Los datos necesarios no son genéricos. Incluyen tareas altamente específicas, como convertir documentos heredados en archivos de Word pulidos, redactar informes realistas de diligencia para fusiones y adquisiciones o preparar presentaciones de valores.

También abarcan estudios de mercado con formato de consultoría y otras labores que requieren conocimiento profesional. Patel recomienda revisar las descripciones de trabajo de Mercor o Surge para dimensionar el nivel de personalización que exige esta producción.

Cada habilidad puede requerir cientos de expertos humanos que generen completaciones, redacten rúbricas y expliquen sus procesos de razonamiento. La industria dedicada a producir estas etiquetas y entornos de aprendizaje por refuerzo ya mueve miles de millones al año, con expectativas de alcanzar decenas de miles de millones.

La comparación con la educación humana muestra la magnitud del esfuerzo. Aprender a pulir un archivo de Word podría exigir, para una IA, décadas de cursos, cientos de profesores trabajando al mismo tiempo y millones de tareas prácticas.

La diferencia no depende solo del número de ejercicios. Con técnicas como GRPO, los modelos generan cientos o miles de despliegues por tarea para resolver el problema de asignar crédito a cada decisión, mientras una persona puede practicar un problema de texto una o dos veces.

El agujero negro de datos

La metáfora central describe a las IA como una galaxia visible de capacidades sostenida por un agujero negro de datos. Las habilidades que el público observa representan apenas la parte luminosa de una infraestructura de entrenamiento mucho más grande.

Patel compara el aprendizaje humano con el de los modelos de frontera mediante el lenguaje. Una persona que percibe y escucha, generosamente, 2.000 palabras por hora podría recibir cerca de 200 millones de tokens desde su nacimiento hasta la adultez.

Los modelos de frontera, en cambio, se entrenan con cantidades que oscilan entre decenas y cientos de trillones de tokens. Esa diferencia se acerca a un millón de veces, según la comparación presentada en el análisis.

La robótica ofrece otro contraste. Una persona puede aprender a teleoperar un humanoide o un brazo robótico en unas pocas horas, pero las IA todavía necesitan millones de horas de demostraciones para abordar tareas complejas y abiertas.

La conducción autónoma confirma el problema. Un adolescente puede aprender a manejar con unas 20 horas de práctica, mientras Waymo y Tesla utilizan entre tres y cuatro órdenes de magnitud más datos al entrenar sus modelos de automóviles autónomos, incluso al considerar los años de desarrollo e intuición física de una persona.

Evolución, sentidos y escalamiento

Una objeción habitual afirma que los humanos llegan al aprendizaje con miles de millones de años de evolución incorporados. Patel responde que el genoma humano ocupa apenas unos 3 gigabytes y que solo entre 1% y 2% codifica proteínas.

En su interpretación, la evolución encontró hiperparámetros y funciones de pérdida adecuados. El conectoma, equivalente aproximado a los pesos y parámetros de una red neuronal, todavía se construye durante la vida de cada persona.

Incluso si se acepta que el preentrenamiento de los modelos compensa la ventaja evolutiva humana, queda otro problema. Una persona educada no necesita cien profesores distintos para aprender cada nuevo lenguaje de programación, mientras una IA continúa requiriendo grandes volúmenes de datos para cada habilidad marginal.

Otra objeción sostiene que las comparaciones ignoran todos los datos sensoriales que una persona recibe. El análisis señala que las personas ciegas o sordas mantienen inteligencia general pese a quedar fuera de una parte importante de ese flujo.

El escalamiento tampoco parece suficiente. Las leyes de escalamiento de Chinchilla indican que los parámetros y los datos contribuyen de forma independiente a reducir la pérdida; incluso llevar los parámetros al infinito solo reduciría aproximadamente diez veces la cantidad de datos necesaria para mantener el mismo resultado.

Automatización y límites estratégicos

La baja eficiencia de muestra no impide necesariamente que los laboratorios automaticen tareas de oficina. Ingenieros de software, analistas y contadores realizan actividades frecuentes que pueden incorporarse con relativa facilidad a la distribución de entrenamiento.

La expansión de esas capacidades ya genera valor económico para los laboratorios. Aunque entrenar una IA resulte menos eficiente que educar a una persona, los sistemas pueden procesar flujos de entrenamiento equivalentes a gigavatios y distribuir lo aprendido en miles de millones de sesiones.

La economía también cambia la comparación. Un humano que necesitara leer cada repositorio público de GitHub antes de convertirse en ingeniero de software tardaría demasiado y solo podría trabajar en un proyecto a la vez, mientras una IA puede amortizar su entrenamiento a gran escala.

El panorama resulta distinto para los trabajos que exigen resolver problemas fuera de la distribución conocida. Algunas ocupaciones mecánicas, como las de cajeros bancarios o agentes de viajes, ya permitieron automatización antes de la IA moderna.

La ingeniería de software podría pertenecer a una categoría más compleja. Patel considera posible que haya más demanda de ingenieros de software humanos en 2028 que en la actualidad, debido a que la IA también puede actuar como una herramienta complementaria.

La apuesta por automatizar la investigación

Los laboratorios confían en que primero podrán automatizar la investigación en IA y después utilizar investigadores artificiales para resolver la eficiencia de muestra. Esa estrategia busca superar la limitación mediante nuevos métodos, en lugar de depender únicamente de más datos y parámetros.

La pregunta decisiva consiste en saber si una IA que aprende de manera menos eficiente que un humano puede descubrir las técnicas necesarias para alcanzar un aprendizaje similar al humano. El análisis reconoce que se trata de un problema complejo.

Patel también cuestiona la forma habitual de hablar sobre una explosión de inteligencia. A su juicio, algunas personas descartan por completo que la IA pueda acelerar la investigación, mientras otras imaginan que al final aparecerá una inteligencia casi divina.

Entre ambos extremos existe un escenario menos simple. El progreso podría acelerarse de forma considerable sin abandonar las características específicas de los modelos de lenguaje, incluidos sus límites de generalización y su dependencia de grandes volúmenes de ejemplos.

La conclusión es que los datos continúan ocupando el centro de la competencia. Los modelos abiertos pueden acercarse a la frontera en pocos meses porque destilan información desde interfaces públicas, mientras que los hiperparámetros, los trucos de entrenamiento y las optimizaciones arquitectónicas resultan más difíciles de copiar.

Imagen original de DiarioBitcoin, creada con inteligencia artificial, de uso libre, licenciada bajo Dominio Público.

Este artículo fue escrito por un redactor de contenido de IA y revisado por un editor humano para garantizar calidad y precisión.


ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín

Artículos Relacionados