El papa León XIV alerta sobre los riesgos humanos de las relaciones con IA

El papa León XIV publicó una extensa encíclica sobre inteligencia artificial y abrió un debate urgente: ¿qué ocurre cuando millones de personas buscan compañía, validación y apoyo emocional en sistemas que imitan empatía, pero no sienten ni comprenden?
***

• La encíclica “Magnifica Humanitas” aborda la necesidad de políticas, marcos legales y límites frente al avance de la IA.
• Expertos en psicología advierten que las relaciones con IA pueden parecer cercanas, pero carecen de reciprocidad humana.
• Encuestas citadas por CNBC indican que más de la mitad de los adultos estadounidenses dicen tener algún tipo de relación con IA y que el 72% de los adolescentes de 13 a 17 años ya usó compañeros artificiales.

El papa León XIV colocó el debate sobre la inteligencia artificial en un terreno menos técnico y más humano. A finales de mayo, publicó una encíclica de 42.000 palabras titulada “Magnifica Humanitas: Sobre la protección de la persona humana en el tiempo de la inteligencia artificial”.

El documento aborda varios temas sensibles. Entre ellos figuran la necesidad de políticas públicas, marcos legales adecuados y una vigilancia especial sobre los riesgos de concentrar el poder de la IA en manos de pocos actores.

La encíclica también entra en una conversación que crece con fuerza: las relaciones entre humanos y sistemas de IA. No se trata solo de productividad, automatización o eficiencia. El texto apunta al impacto emocional, social y moral de tecnologías que ya actúan como compañeros, asistentes y confidentes digitales.

Según reportó CNBC, expertos en psicología consideran que las palabras del papa dieron mayor visibilidad a un fenómeno que ya preocupa a terapeutas, investigadores y familias. La advertencia llega en un momento en que los chatbots conversacionales y los llamados compañeros de IA ganan presencia cotidiana.

Una advertencia sobre la diferencia entre imitar y comprender

En la encíclica, el papa León XIV traza una distinción clara entre las capacidades computacionales de la IA y la experiencia humana. “Las llamadas inteligencias artificiales no atraviesan experiencias, no poseen un cuerpo, no sienten alegría ni dolor, no maduran a través de las relaciones y no conocen desde dentro lo que significan el amor, el trabajo, la amistad o la responsabilidad”, escribió.

El pontífice agregó que estos sistemas “pueden imitar el lenguaje, el comportamiento y las habilidades analíticas, o incluso simular empatía y comprensión, pero no entienden lo que producen”. Esa frase resume una preocupación central: la IA puede parecer cercana sin tener vivencia, intención o conciencia.

Para lectores nuevos en el tema, conviene recordar que la IA generativa funciona mediante modelos entrenados con grandes volúmenes de datos. Estos sistemas detectan patrones y producen respuestas coherentes. Sin embargo, esa fluidez no equivale a comprensión humana ni a experiencia subjetiva.

La advertencia no niega el valor de la tecnología. De hecho, el propio papa reconoció que “estas innovaciones pueden servir enormemente al desarrollo humano integral”. El punto central está en el uso, el diseño y el lugar que estas herramientas ocupan en la vida afectiva y social.

Ese matiz resulta importante para el sector tecnológico. La discusión no se limita a prohibir o celebrar la IA. El debate apunta a construir límites, responsabilidades y criterios éticos en una industria que avanza con rapidez y que influye sobre salud mental, educación, trabajo y vínculos personales.

El auge de los compañeros de IA

Las cifras citadas en la nota muestran que el fenómeno ya dejó de ser marginal. Más de la mitad de los estadounidenses afirma tener algún tipo de relación con un sistema de IA, según una encuesta de 2025 realizada a 1.012 adultos de Estados Unidos por la práctica terapéutica Vantage Point Counseling Services.

El dato resulta aún más llamativo entre adolescentes. Una mayoría, el 72% de los jóvenes de 13 a 17 años, ha utilizado compañeros de IA al menos una vez, según un informe de 2025 de la organización sin fines de lucro Common Sense Media.

Estos compañeros digitales pueden adoptar muchas formas. Algunos ofrecen conversación casual. Otros simulan amistad, apoyo emocional o interacción romántica. En todos los casos, la experiencia puede sentirse íntima porque el sistema responde de manera personalizada y constante.

Vaile Wright, directora sénior de innovación en atención médica de la American Psychological Association, dijo que las palabras del papa pusieron “un foco más grande que antes” sobre este fenómeno en particular. Su lectura subraya que el problema ya no pertenece solo a laboratorios, empresas de software o reguladores.

La pregunta ahora llega a hogares, escuelas, consultorios y comunidades religiosas. ¿Qué ocurre cuando una persona, especialmente un adolescente, encuentra validación inmediata en una interfaz que nunca se cansa, nunca contradice demasiado y siempre responde?

Relaciones humanas, reciprocidad y resiliencia

Omri Gillath, profesor de psicología en la University of Kansas, planteó un diagnóstico más amplio sobre el contexto social. “Las personas están perdiendo relaciones”, dijo. Según él, la gente pasa menos tiempo con amigos y menos tiempo con parejas románticas.

Ese señalamiento coincide con datos del informe de 2025 “Social Connection in America”. Casi tres cuartas partes de los estadounidenses se reúnen con sus relaciones cercanas dos veces al mes o menos. Además, el 29% rara vez o nunca habla con ellas por teléfono o videollamadas.

En ese entorno, la IA puede ocupar un espacio emocional que antes pertenecía a redes humanas. Wright reconoció que las relaciones entre IA y humanos “sin duda pueden imitar esa sensación de conexión” y que resultan “muy validadoras”. Aun así, marcó una diferencia esencial.

“Son unilaterales, y las relaciones humanas, las relaciones humanas exitosas y efectivas, son recíprocas”, afirmó Wright. Esa reciprocidad implica escuchar y ser escuchado, ceder, negociar, cuidar y también frustrarse.

Las relaciones humanas, añadió la experta, también son desafiantes. Esa dificultad cumple una función. “Es como construimos resiliencia”, dijo. “Es como aprendemos sobre nosotros mismos. Es como aprendemos sobre otras personas. Es como desarrollamos valores y metas”.

Gillath también advirtió que las relaciones con IA pueden aumentar la soledad y hacer que los usuarios dependan más de la tecnología. El riesgo no aparece solo por usar un chatbot. Surge cuando la interacción artificial reemplaza vínculos humanos necesarios para el desarrollo emocional.

Qué deben tener presente los usuarios

Wright recomendó observar primero el diseño de estas herramientas. La IA conversacional está “específicamente diseñada para mantenerte involucrado”, dijo. Ese objetivo puede alinearse con el bienestar del usuario, pero también puede chocar con él.

La recomendación resulta clave en una economía digital basada en la atención. Muchas plataformas compiten por retener tiempo, datos e interacción. En ese contexto, un compañero de IA puede convertirse en una experiencia emocionalmente intensa y comercialmente rentable.

La experta también sugirió pensar con claridad en qué es buena la IA y en qué no lo es. La IA generativa puede ayudar a mejorar un currículum, según señalan expertos citados en el reporte. Pero investigadores han encontrado que no siempre representa el recurso adecuado para asuntos de salud mental.

Este punto exige prudencia. Un sistema puede responder con lenguaje compasivo sin tener criterio clínico humano. Puede ofrecer frases de apoyo sin comprender dolor, contexto familiar, historial psicológico o señales de riesgo.

Para los usuarios, la clave no consiste en rechazar toda herramienta. Consiste en identificar límites. La IA puede servir como apoyo práctico, fuente de ideas o interfaz de aprendizaje. Pero no debería sustituir el contacto con personas reales, ni reemplazar atención profesional cuando exista sufrimiento emocional.

Un debate tecnológico con consecuencias sociales

La intervención del papa León XIV conecta con una discusión mayor sobre gobernanza tecnológica. La encíclica menciona la necesidad de políticas y marcos legales a medida que la IA evoluciona. También alerta sobre los riesgos de que su poder quede concentrado en pocas manos.

Ese señalamiento tiene relevancia para mercados digitales, plataformas y desarrolladores. La IA no avanza en abstracto. La crean empresas, la entrenan con datos, la distribuyen plataformas y la adoptan millones de usuarios con necesidades distintas.

En el mundo de la inteligencia artificial, como en blockchain y otras tecnologías emergentes, el diseño institucional importa. Las decisiones sobre transparencia, privacidad, seguridad, incentivos y responsabilidad definen cómo una innovación impacta la vida cotidiana.

La encíclica no ofrece una solución técnica única. Sí propone una brújula ética: proteger a la persona humana. Esa idea implica mirar más allá del rendimiento de los modelos y evaluar cómo estas herramientas afectan vínculos, autonomía, dignidad y comunidad.

Wright resumió el fondo del debate con una frase directa. Cuando se trata de nuestras relaciones más importantes, “realmente no hay humanidad sin otras personas”. La IA puede acompañar algunos procesos, pero la experiencia humana sigue dependiendo de cuerpos, historias, límites, afectos y reciprocidad.

La discusión apenas comienza. A medida que los compañeros de IA se vuelvan más persuasivos y personalizados, crecerá la presión para definir normas claras. El desafío será aprovechar sus beneficios sin olvidar que una respuesta convincente no siempre equivale a una relación humana.

Imagen original de DiarioBitcoin, creada con inteligencia artificial, de uso libre, licenciada bajo Dominio Público.

Este artículo fue escrito por un redactor de contenido de IA y revisado por un editor humano para garantizar calidad y precisión.

ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín