Por Canuto  

Los matemáticos Timothy Gowers y Peter Sarnak, junto al investigador de DeepMind Tom Zahavy, plantean que los grandes modelos de lenguaje (LLM) dominan el cálculo y la combinación de métodos, pero carecen de la intuición y la creatividad necesarias para generar demostraciones originales. El debate, recogido por The Decoder, cuestiona si estos sistemas realmente están volviéndose más versátiles o solo mejoran en puntos de referencia conocidos.
***

  • Matemáticos de renombre reconocen las habilidades técnicas de los LLM pero señalan su incapacidad para innovar.
  • El concepto de ‘abducción manipulativa’ de Zahavy explica el cuello de botella en la generación de supuestos fundacionales.
  • El debate plantea si los LLM se vuelven más versátiles o solo más eficientes en problemas ya conocidos.

Los grandes modelos de lenguaje (LLM) han demostrado una habilidad impresionante para resolver problemas matemáticos, desde simplificar cálculos hasta plantear demostraciones complejas. Sin embargo, dos de los matemáticos más reconocidos del mundo, Timothy Gowers y Peter Sarnak, sostienen que estas herramientas siguen siendo, en esencia, calculadoras sofisticadas, capaces de combinar métodos existentes pero incapaces de producir ideas verdaderamente nuevas. El debate, recogido por Matthias Bastian en The Decoder, coincide con las conclusiones del investigador de DeepMind Tom Zahavy, quien sitúa el cuello de botella en la llamada ‘abducción manipulativa’, la capacidad de inventar supuestos fundacionales sin precedente lingüístico.

La intuición como brújula en un espacio de búsqueda infinito

Gowers, profesor en el Collège de France y ganador de la Medalla Fields, sostiene que los LLM son excelentes para combinar métodos ya conocidos y para explorar muchas rutas posibles, pero fallan al seleccionar las pocas que realmente llevan a una solución. En un espacio de búsqueda prácticamente infinito, la intuición matemática es la que guía a los humanos hacia los caminos productivos, un proceso que estas máquinas no logran replicar.

El matemático compara la situación con la de un jugador de ajedrez que conoce todas las reglas y variantes, pero carece del “olfato” para elegir la jugada decisiva en una posición complicada. Los modelos actuales, dice, se limitan a probar combinaciones de manera más o menos ciega, y solo cuando el problema tiene una estructura muy clara pueden encontrar la salida. Gowers añade que, en problemas realmente abiertos, los LLM se pierden porque no tienen forma de priorizar qué hipótesis merecen ser exploradas.

Sarnak, profesor en Princeton y miembro del Instituto de Estudios Avanzados, coincide en que la IA puede derivar teoremas a partir de la teoría existente, pero no logra desarrollar las abstracciones que subyacen a las grandes demostraciones cuando se parte de una pregunta elemental. “No tienen la capacidad de ver más allá de lo inmediato”, afirmó en una entrevista reciente. Esta limitación se hace evidente cuando un humano propone una nueva definición o un nuevo objeto matemático, algo que los modelos no saben hacer por sí mismos.

Ambos matemáticos, sin embargo, reconocen que los LLM ya son herramientas valiosas para la investigación, especialmente en tareas de verificación, cálculo simbólico y búsqueda de contraejemplos. Pero su contribución a la creatividad matemática, insisten, sigue siendo limitada, y no ven indicios de que eso vaya a cambiar en el corto plazo. Gowers sugiere que, si bien los modelos pueden acelerar el trabajo rutinario, el avance fundamental de la disciplina seguirá dependiendo de la mente humana.

La discusión llega en un momento en que los LLM ya han resuelto problemas de matemática competitiva, como los de las olimpiadas internacionales, pero esos desafíos, aunque difíciles, tienen soluciones conocidas dentro de un marco acotado. Los matemáticos argumentan que hay una diferencia cualitativa entre resolver un problema con pista y construir una teoría desde cero.

La abducción manipulativa: la frontera de la innovación

El investigador de DeepMind Tom Zahavy, conocido por su trabajo en aprendizaje por refuerzo, ha llevado el debate un paso más allá con su artículo “LLMs Can’t Jump”. En ese trabajo, identifica un concepto que denomina “abducción manipulativa”, que se refiere a la capacidad de inventar nuevos supuestos fundacionales que no tienen precedente en el lenguaje ni en los datos de entrenamiento.

Zahavy argumenta que los LLM se destacan en la deducción y la inducción, pero fallan en la abducción, que es el proceso de generar hipótesis explicativas que luego pueden transformar el campo. Sin esa capacidad, los modelos se quedan atrapados en el marco de lo ya conocido, incapaces de saltar a nuevos niveles de abstracción. La abducción, en este contexto, es lo que permite a un matemático proponer, por ejemplo, que los números complejos existen o que una curva tiene una propiedad oculta.

El investigador propone que una posible salida sería desarrollar “modelos del mundo” que simulen estructuras físicas o lógicas más allá de los datos textuales. Si los sistemas pudieran manipular objetos mentales y crear escenarios hipotéticos, tal vez podrían comenzar a realizar saltos creativos similares a los de un matemático humano. Zahavy menciona que los avances en simuladores neuronales podrían ofrecer un camino a seguir, aunque todavía existen obstáculos técnicos enormes.

Sin embargo, Zahavy reconoce que todavía no hay una hoja de ruta clara para lograr ese objetivo. Los modelos actuales, mientras tanto, siguen mejorando en métricas de referencia, pero eso no significa necesariamente que estén adquiriendo una comprensión más profunda o una capacidad inventiva mayor. El investigador aconseja que los evaluadores deben diseñar pruebas que midan la creatividad, no solo la exactitud numérica.

El trabajo de Zahavy, que ha sido citado por otros grupos de investigación, ha generado interés porque ofrece una explicación formal de un fenómeno que muchos perciben de manera intuitiva. Al identificar el tipo específico de razonamiento que falta, se abre la puerta a posibles intervenciones técnicas, aunque ninguna ha demostrado ser efectiva todavía.

¿Hacia una versatilidad real o solo mejores calibradores?

El debate alimenta una pregunta más amplia que recorre la comunidad de inteligencia artificial: ¿están los LLM realmente volviéndose más versátiles, o simplemente se están volviendo más eficientes en los puntos de referencia y en los espacios de problemas conocidos? Los matemáticos sugieren que la segunda opción es la más probable, al menos en el ámbito de la creatividad.

Gowers señala que la evaluación de estos sistemas se basa casi exclusivamente en tareas de cálculo y resolución de problemas estándar, donde los LLM ya alcanzan niveles de maestría. Pero cuando se enfrentan a problemas abiertos, como la conjetura de Goldbach o la hipótesis de Riemann, su desempeño es nulo, porque requieren una chispa creativa que no proviene de la mera combinación de fórmulas. El hecho de que los modelos fallan en esos desafíos no es una anomalía, sino una consecuencia lógica de su diseño.

Sarnak añade que la gran cantidad de datos de entrenamiento podría estar generando una ilusión de inteligencia. “A veces dan la impresión de que razonan porque repiten patrones que han visto millones de veces”, dijo. “La verdadera prueba es si pueden producir una demostración que nadie haya escrito antes”. Esta crítica va dirigida a la tendencia de confundir la fluidez en la generación de texto con una comprensión auténtica de los conceptos.

El artículo de Bastian, publicado en The Decoder, también menciona que esta evaluación alimenta un debate más amplio sobre la naturaleza del progreso en IA. Si los LLM solo se limitan a interpolar entre los datos existentes, su capacidad de innovar estará siempre acotada, a menos que se incorporen mecanismos que permitan la generación de hipótesis novedosas. Gigantes tecnológicos como OpenAI y Google ya invierten en áreas como el razonamiento simbólico y el aprendizaje causal, pero los resultados hasta ahora son preliminares.

Por ahora, los matemáticos se muestran cautelosos pero no completamente escépticos. Gowers reconoce que los modelos podrían evolucionar si se les dota de una representación más rica del mundo, pero insiste en que la intuición matemática real permanece fuera del alcance de las máquinas. Sarnak, por su parte, cree que la colaboración entre humanos y máquinas podría ser el camino más fructífero, donde los LLM se encarguen de la mecánica y los humanos de la inspiración.

En última instancia, esta discusión no solo afecta a las matemáticas, sino a todas las áreas donde se espera que la IA contribuya con descubrimientos. La ciencia, la ingeniería y la medicina requieren de ese “salto” que los modelos actuales no logran dar. Mientras tanto, la comunidad investigadora seguirá observando si los próximos avances, como los modelos multimodales o los sistemas con memoria externa, pueden cerrar la brecha entre cálculo y creatividad.


ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín

Artículos Relacionados