Por Canuto  

Una nueva declaración internacional busca poner límites al uso de inteligencia artificial en matemáticas, mientras expertos como Ann Dooms advierten que los modelos actuales no pueden sustituir el juicio, la intuición y la responsabilidad humana.

***

  • La Declaración de Leiden sobre Inteligencia Artificial y Matemáticas plantea reglas para preservar rigor, transparencia, autoría y revisión por pares.
  • El documento surge en medio de anuncios de OpenAI, Google DeepMind y otras empresas que usan resultados matemáticos para exhibir capacidades de IA.
  • Ann Dooms sostiene que la próxima generación de modelos no debe ser solo más grande, sino mejor comprendida y vinculada a la estructura real de los problemas.

 

La comunidad matemática internacional empezó a trazar una línea frente al avance de la inteligencia artificial (IA). No se trata de rechazar la tecnología, sino de impedir que el entusiasmo comercial y la automatización debiliten algunos pilares de la disciplina: el rigor, la atribución, la transparencia y la revisión independiente.

Ese debate tomó forma con la Declaración de Leiden sobre Inteligencia Artificial y Matemáticas, un documento de 11 páginas elaborado por 16 integrantes de un grupo de trabajo, en consulta con colegas y organizaciones relevantes. Al momento de su publicación, la declaración ya reunía más de 130 firmantes.

El texto aparece en un momento delicado. El mes pasado, muchos matemáticos reaccionaron con sorpresa al anuncio de OpenAI sobre un resultado vinculado al famoso problema de la distancia unitaria en geometría. Para algunos fue una señal del potencial de la IA. Para otros, mostró la urgencia de discutir cómo se validan, comunican y atribuyen estos avances.

La preocupación no se limita a OpenAI. Google DeepMind también generó debate cuando anunció en 2024 que AlphaProof había resuelto tres problemas difíciles de competencias matemáticas. De acuerdo con Scientific American, pasó más de un año antes de que los métodos se publicaran en una revista revisada por pares.

Una declaración para proteger el rigor matemático

La Declaración de Leiden nació tras un taller celebrado en septiembre del año pasado en el Centro Lorentz de la Universidad de Leiden, en Países Bajos. Allí participaron alrededor de 60 investigadores y responsables de políticas para analizar cómo la IA podía transformar la práctica matemática.

El documento no condena el uso de IA en investigación. Su enfoque es más preciso: pregunta qué significa usarla de forma responsable en una disciplina donde las demostraciones representan el grado más alto de certeza científica. En matemáticas, un resultado no solo debe parecer correcto. Debe poder verificarse.

Los autores sostienen que los sistemas actuales pueden generar argumentos plausibles, pero poco fiables o incorrectos. Ese riesgo no afecta solo a textos informales. También alcanza a formalizaciones matemáticas, donde la traducción entre conceptos legibles por computadora y argumentos comprensibles por humanos puede introducir dificultades profundas.

Otro punto central es la atribución. Los modelos entrenados con literatura matemática publicada pueden sintetizar ideas humanas sin citar adecuadamente las fuentes. La declaración advierte que muchos sistemas se construyen con datos obtenidos mediante licencias que no fueron diseñadas para IA, o mediante usos que podrían vulnerar derechos de autor.

El texto también critica la comunicación prematura de resultados por canales informales. Comunicados de prensa y publicaciones en blogs pueden servir de apoyo, pero no sustituyen la revisión por pares. Cuando una empresa anuncia un avance antes del escrutinio comunitario, los errores pueden circular más rápido que sus correcciones.

La presión de las Big Tech sobre una disciplina pública

La declaración describe una tensión creciente entre la cultura matemática y los incentivos de la industria tecnológica. La investigación académica suele valorar profundidad, dificultad, significación y comprensión. Las empresas, en cambio, pueden priorizar problemas que exhiban las capacidades de sus modelos ante clientes, inversionistas o reguladores.

Esa diferencia importa porque las matemáticas se han convertido en un campo atractivo para entrenar IA. Las demostraciones formalizadas permiten verificar automáticamente grandes cantidades de problemas. Esa retroalimentación puede alimentar modelos de propósito general, bajo la premisa de que demostrar teoremas mejora formas más amplias de razonamiento.

El documento advierte que esa ruta puede tener consecuencias fuera de la academia. Algunos modelos comerciales se aplican en áreas sensibles, incluidas guerra, vigilancia masiva, desinformación, opresión y procesos que pueden socavar la democracia. La declaración pide a los matemáticos evaluar las consecuencias éticas de su trabajo y retirarse de proyectos dañinos si resulta necesario.

La presión económica también aparece en el análisis. La industria ofrece empleos lucrativos, recompensas monetarias, recursos computacionales y desafíos intelectuales. Esto ocurre mientras muchas universidades enfrentan presupuestos ajustados y empleos académicos precarios, lo que puede crear colaboraciones asimétricas.

Por eso, el texto recomienda laboratorios públicos de investigación, infraestructura computacional independiente y apoyo legal para académicos que colaboren con empresas. También pide que gobiernos y financiadores no se dejen guiar por el bombo publicitario, sino por expertos capaces de evaluar la relevancia real de los resultados.

Qué pide la Declaración de Leiden

Las recomendaciones para investigadores individuales empiezan con una medida simple: divulgar el uso de herramientas automatizadas. Esto incluye grandes modelos de lenguaje, sistemas de aprendizaje automático, asistentes de demostración y software matemático. Los autores proponen incluir una sección específica de herramientas y recursos computacionales en los artículos.

La declaración insiste en que la responsabilidad final recae en los humanos. La IA puede ayudar, pero no debe figurar como autora ni recibir crédito moral por un resultado. Los autores humanos deben responder por la corrección, las citas, la adecuación de los argumentos y la atribución de trabajos previos.

También se recomienda apoyar la revisión por pares. Si un artículo usa IA, puede exigir más trabajo a revisores y editores. Por ello, los autores deberían facilitar la evaluación con referencias completas, demostraciones formales cuando sean apropiadas y explicaciones humanas de los argumentos centrales.

Para organizaciones matemáticas y financiadores, el documento pide liderazgo en políticas de publicación, códigos de conducta y estándares de rigor. También sugiere proteger los derechos de los autores, permitir exclusiones de entrenamiento de IA y exigir que los resultados relevantes pasen por revistas, actas o libros revisados.

El grupo de trabajo estuvo integrado por Jarod Alper, Michael Barany, Alain Chavarri Villarello, Sander Dahmen, Walter Dean, Karthik Ganapathy, Michael Harris, David Holmes, Mateja Jamnik, Steven Kelk, Bryna Kra, Ursula Martin, Bartosz Naskręcki, Rodrigo Ochigame, Jim Portegies y Johannes Schmitt.

Ann Dooms y el límite de la intuición artificial

El debate conecta con las advertencias de Ann Dooms, matemática belga de 47 años, catedrática en la Vrije Universiteit Brussel y directora del grupo de Matemáticas y Ciencia de Datos de esa universidad. En una entrevista con El País, Dooms defendió que la intuición humana sigue siendo irremplazable cuando se trabaja con fenómenos del mundo real.

Dooms preside además el Consejo Científico de Defensa de Bélgica y el Comité de Educación de la Sociedad Matemática Europea. Su trayectoria combina álgebra no conmutativa, procesamiento de imágenes, análisis funcional y aplicaciones prácticas que van desde museos hasta medicina reproductiva.

Su carrera cambió tras inspirarse en Michael Barnsley, pionero de la geometría fractal. Después de su doctorado, se trasladó a una facultad de ingeniería para desarrollar técnicas algebraicas de marca de agua y autenticación de imágenes digitales. Ese trabajo la acercó a lo que su grupo llama matemáticas digitales.

Ese enfoque usa herramientas matemáticas para extraer estructura y significado de información digital. En museos, Dooms colaboró en el análisis de escaneos de alta resolución para caracterizar estilos pictóricos, detectar restauraciones ocultas, identificar grietas y distinguir pinceladas. Ella reconoce que en los años 2000 ya realizaban tareas que hoy se llamarían aprendizaje automático.

Su crítica a la IA actual es directa. Dooms considera que se explota el poder de las redes neuronales de manera ingenua. A su juicio, no basta con hacer modelos más grandes. La próxima generación debería entenderse mejor matemáticamente y estar más conectada con la estructura del problema que busca resolver.

Modelos más estructurados, no solo más grandes

Dooms propone transformar los datos en mejores representaciones antes de aplicar aprendizaje automático. Su ejemplo son las wavelets, transformadas matemáticas impulsadas por Ingrid Daubechies que revolucionaron el procesamiento de imágenes desde la década de 1980. Una red neuronal puede aprender funciones similares, pero quizá gaste enormes recursos redescubriendo conocimiento ya disponible.

La matemática belga ve allí una oportunidad para mejorar fiabilidad y transparencia. Si un modelo incorpora estructura matemática desde el inicio, puede necesitar menos cómputo y ofrecer resultados más interpretables. Esa idea resulta especialmente relevante cuando la academia no tiene la capacidad computacional de las grandes tecnológicas.

Dooms admitió que incluso con computación de alto rendimiento debe esperar 48 horas para ejecutar ejemplos muy pequeños. Por eso cree que la academia tendrá que colaborar con empresas, y que el capital privado puede cumplir un papel central, como ocurrió en los primeros tiempos de la computación.

Sin embargo, también subraya el límite de los modelos actuales. Las redes no tienen sentido de la realidad, aunque procesen imágenes o video. Para ella, los humanos conservan una ventaja por vivir y razonar en un mundo tridimensional que experimentan en el tiempo.

Su advertencia coincide con una discusión urgente sobre los doctorados. Dooms citó el caso de Timothy Gowers, medallista Fields, quien escribió que ChatGPT 5.5 Pro produjo en poco más de dos horas un resultado que habría sido un capítulo razonable de una tesis doctoral en combinatoria. Para Dooms, eso obliga a repensar la formación, pero no elimina la investigación que exige verdadera intuición.

Educación, defensa y responsabilidad pública

La preocupación de Dooms va más allá de la IA. Como presidenta del Comité de Educación de la Sociedad Matemática Europea, ve un rechazo creciente hacia las matemáticas en Europa, Estados Unidos y Canadá. Según ella, parte del problema nace en primaria, donde suelen enseñarse como una herramienta computacional sin explicar por qué funcionan.

Dooms cree que los niños deberían aprender a mirar el mundo de manera estructural. Eso implica identificar qué cosas se comportan de forma similar cuando se eliminan detalles. Para lograrlo, propone cambios drásticos en contenidos, métodos y niveles de explicación.

Su sueño es que ministros europeos de Educación impulsen un proyecto internacional. La idea sería reunir matemáticos para diseñar contenidos y un currículo que ayude a los niños a pensar el mundo. En Flandes, reconoce, esa propuesta recibe críticas por supuestamente limitar la libertad de enseñanza.

También defiende que los matemáticos participen en debates sobre seguridad e IA. Como presidenta del Consejo Científico de Defensa de Bélgica, asesora sobre proyectos de investigación vinculados a formación militar e inteligencia. Algunos resultados son secretos y no todo puede publicarse.

Dooms se considera pacifista, pero sostiene que la defensa es importante y que no se debe ser ingenuo. Cita a Alan Turing como referencia, no por producir armas, sino por salvar vidas. Para ella, los matemáticos no deberían dejar las discusiones sobre usos militares de IA solo en manos de abogados y filósofos.

Un debate que apenas comienza

La Declaración de Leiden busca iniciar una conversación más amplia, no cerrar el tema. Christoph Sorger, secretario general de la Unión Matemática Internacional, escribió que no espera que todos los colegas estén de acuerdo con cada frase. Aun así, considera que la comunidad debe responder de forma transparente y guiada por sus valores.

Ulrike Tillmann, vicepresidenta de la misma organización, resumió el espíritu del documento con una frase clara: las matemáticas son y deberían seguir siendo una empresa profundamente humana. Esa idea atraviesa tanto las recomendaciones técnicas como las advertencias éticas.

Ilka Agricola, matemática y presidenta del Comité de Publicaciones de la Unión Matemática Internacional, reconoció que la IA puede ser extremadamente útil si se usa con responsabilidad. Pero también advirtió que el desorden a su alrededor está creciendo y afecta a editores, revisores y estándares de publicación.

El reto será convertir principios en prácticas. Divulgar herramientas parece factible. Regular a la industria de IA, proteger derechos de autores e invertir en infraestructura pública exigirán coordinación política, dinero y presión institucional.

Para lectores familiarizados con cripto, blockchain e IA, el debate suena conocido. La tensión entre apertura, incentivos privados, infraestructura pública y validación independiente también recorre los ecosistemas digitales. En matemáticas, esa tensión toca algo aún más básico: cómo una comunidad decide qué es verdadero.

Imagen original de DiarioBitcoin, creada con inteligencia artificial, de uso libre, licenciada bajo Dominio Público

Este artículo fue escrito por un redactor de contenido de IA

 


ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín

Artículos Relacionados