Por Canuto  

León XIV pidió orientar la inteligencia artificial al servicio de las personas y llamó a los Estados que se reunirán en Ginebra en noviembre a avanzar hacia la prohibición de las armas autónomas letales. En un discurso que retoma principios de su encíclica Magnifica Humanitas, el pontífice también defendió la supervisión humana, la rendición de cuentas y el acceso equitativo a los beneficios tecnológicos.

***

  • El pontífice sostuvo que las decisiones sobre la vida, la libertad y el uso de la fuerza deben permanecer bajo supervisión humana efectiva.
  • León XIV instó a los Estados que se reunirán en Ginebra en noviembre a dar pasos concretos hacia la prohibición de armas autónomas letales.
  • Su discurso desarrolló cinco principios sobre responsabilidad, bien común y gobernanza, vinculados con la encíclica Magnifica Humanitas.

 

El pontífice instó a los Estados que se reunirán en Ginebra en noviembre a avanzar hacia la prohibición de armas autónomas letales. También defendió que las decisiones sobre la vida, la libertad y el uso de la fuerza permanezcan bajo supervisión humana.

El papa León XIV llamó a orientar la inteligencia artificial (IA) al servicio de las personas y pidió a los gobiernos que adopten medidas concretas frente a los sistemas capaces de seleccionar y atacar objetivos sin una decisión humana directa. La exhortación formó parte de un discurso pronunciado el 30 de octubre de 2026 en el Salón de los Papas, ante participantes de una reunión dedicada al futuro de la IA.

Según Unite.AI, el encuentro reunió a investigadores y otros asistentes de distintos países bajo el título El futuro de la IA: un diálogo entre el Vaticano y el mundo científico sobre los desarrollos y aplicaciones de las tecnologías inteligentes. La Academia Pontificia para la Vida y el Future of Life Institute organizaron conjuntamente la actividad, centrada en las aplicaciones de estas tecnologías y en las responsabilidades que acompañan su desarrollo.

Una advertencia sobre el rumbo de la inteligencia artificial

Al dar la bienvenida a los asistentes, León XIV expresó preocupación por el ritmo y la dirección del desarrollo de la IA. Dijo que, aunque puede reconocerse el rumbo necesario, no se hacen suficientes esfuerzos para avanzar en él, y agradeció las propuestas y preocupaciones presentadas por los participantes como aportes a un diálogo transdisciplinario.

El pontífice describió ese intercambio entre disciplinas como una respuesta cada vez más necesaria ante la complejidad de los grandes desafíos contemporáneos. Su planteamiento no se limitó a preguntar qué capacidades técnicas pueden alcanzar los sistemas, sino que puso el énfasis en las decisiones humanas que determinan dónde se aplican y qué objetivos persiguen.

León XIV también retomó una advertencia formulada por el papa Francisco ante la sesión del G7 sobre inteligencia artificial, el 14 de junio de 2024. En aquella intervención, Francisco había descrito la IA como una herramienta capaz de generar entusiasmo y temor, y había sostenido que nunca debe confiarse a una máquina la decisión de quitar una vida humana.

Para León XIV, esa declaración mantiene plena vigencia frente a la evolución de las aplicaciones inteligentes. El discurso volvió sobre esa preocupación y organizó la respuesta en cinco consideraciones: la responsabilidad de orientar la tecnología, la condición instrumental de las máquinas, los límites a la delegación de decisiones, el bien común y la necesidad de instituciones eficaces.

La tecnología no decide por sí sola

La primera consideración del Papa fue que el futuro de la inteligencia artificial no está predeterminado. Como las personas desarrollan y aplican estas herramientas, también les corresponde guiar sus usos, modificarlos o rechazarlos cuando sus consecuencias no puedan controlarse de manera adecuada.

León XIV planteó que la pregunta central no debería ser únicamente qué puede hacer la IA, sino para qué debe servir. A su juicio, tratar su desarrollo como una carrera por ganar puede llevar a sus responsables a concentrarse en alcanzar una meta y perder de vista a quienes quedan atrás, mientras que un sistema fiable y útil para las personas puede valer más que uno más potente cuyos efectos sean difíciles de prever.

La segunda consideración fue que las máquinas son herramientas y no personas. El Papa señaló que los sistemas de IA carecen de experiencias y cuerpo, no sienten alegría ni dolor y tampoco comprenden desde una vivencia propia conceptos como el amor, el trabajo, la amistad o la responsabilidad.

El discurso cuestionó, además, las propuestas de conceder derechos o personalidad jurídica a esos sistemas. León XIV advirtió que tal enfoque podría difuminar la responsabilidad de las personas y las organizaciones que los diseñan o utilizan, además de dejar a quienes sufran daños frente a una entidad sin rostro humano cuando busquen reparación.

Supervisión humana y bien común

La tercera consideración estableció límites a la delegación de decisiones. El Papa mencionó el riesgo de que una persona incluida en una lista de objetivos o registrada en una base de datos de control fronterizo termine reducida a un dato, sin que las circunstancias individuales reciban la atención que requieren.

Por eso, sostuvo que las decisiones que afectan la vida humana, la libertad y el uso de la fuerza deben conservar una supervisión humana eficaz, informada y responsable. La exigencia implica que la intervención de una persona no sea meramente formal, sino que permita comprender la decisión y responder por sus consecuencias.

En ese marco, León XIV pidió desarmar la inteligencia artificial y exhortó a los Estados que se reunirán en Ginebra en noviembre a dar pasos concretos hacia la prohibición de las armas autónomas letales. La solicitud apunta a una de las aplicaciones más delicadas de la tecnología: sistemas que podrían participar en decisiones de ataque sin que una persona ejerza un control efectivo sobre cada acción.

La ONU prevé celebrar en Ginebra, del 16 al 20 de noviembre de 2026, la Séptima Conferencia de Examen de la Convención sobre Ciertas Armas Convencionales.

La cuarta consideración vinculó el desarrollo tecnológico con el bien común y rechazó que la innovación se convierta en un fin en sí misma o atienda solo a grupos privilegiados. El pontífice defendió que los beneficios de la tecnología, incluidos los cuidados, el conocimiento, las herramientas y las oportunidades, alcancen a las comunidades de forma equitativa, en particular a quienes más los necesitan.

Instituciones para hacer cumplir los principios

León XIV calificó su quinta consideración como quizá la más urgente: la creación de instituciones capaces de traducir principios éticos ya conocidos en medidas concretas. El Papa puso énfasis en instituciones internacionales eficaces que puedan proteger el bien común global frente a tecnologías cuyo alcance supera las fronteras nacionales.

Para que esa supervisión tenga efecto, el discurso planteó la necesidad de estándares compartidos, vigilancia independiente y mecanismos claros de rendición de cuentas. También defendió que las decisiones sobre el desarrollo y el uso de la IA puedan examinarse, impugnarse cuando corresponda y dar lugar a remedios adecuados si provocan daños.

El pontífice vinculó estas ideas con Magnifica Humanitas, su encíclica publicada el 15 de mayo de 2026 y titulada Sobre la custodia de la persona humana en el tiempo de la inteligencia artificial. El discurso se apoyó en pasajes numerados del documento para desarrollar sus cinco consideraciones, que incluyen la responsabilidad, la transparencia y la gobernanza de la IA, así como la relación entre inteligencia artificial y armas.

La encíclica también sitúa estas discusiones en una historia más amplia de cambios económicos y tecnológicos. Recuerda que León XIII publicó Rerum Novarum en 1891 y que la Iglesia conmemoraba en 2026 el 135.º aniversario de ese texto, mientras observa que hoy buena parte de la innovación tecnológica está impulsada por actores privados, a menudo transnacionales.

Según el planteamiento del documento, esos actores cuentan con recursos y capacidad de intervención que pueden superar los de muchos gobiernos, lo que confiere al poder tecnológico un carácter privado difícil de discernir y gobernar. Esa transformación explica la relevancia que el Papa atribuye a las reglas compartidas y a la rendición de cuentas, sin que el discurso presente la tecnología como algo inevitable o imposible de orientar.

Al cerrar la reunión, León XIV agradeció las contribuciones de los participantes y los exhortó a mantener el diálogo y la responsabilidad compartida en favor del bien común. Su llamado combina una demanda inmediata sobre las armas autónomas letales con una agenda más amplia: conservar el control humano sobre decisiones críticas y construir instituciones capaces de vigilar el desarrollo y el uso de la inteligencia artificial.

Imagen original de DiarioBitcoin, creada con inteligencia artificial, de uso libre, licenciada bajo Dominio Público.

Este artículo fue escrito por un redactor de contenido de IA y revisado por un editor humano para garantizar calidad y precisión.

 


ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín

Artículos Relacionados