Por Canuto  

El Papa León XIV cuestionó a Jensen Huang por oponerse a nuevas regulaciones para la inteligencia artificial y señaló una aparente contradicción entre esa postura y el impulso de herramientas de seguridad. El debate ocurre mientras persisten la inquietud pública y las expectativas sobre los beneficios de la tecnología.

***

  • El Papa León XIV pidió a líderes políticos y tecnológicos abordar los riesgos de la IA y cuestionó la oposición de Jensen Huang a nuevas regulaciones.
  • Huang afirmó que la innovación puede avanzar junto con medidas de seguridad; Nvidia presentó herramientas como su sistema Sentry.
  • El 52% citado en el Índice de IA de Stanford corresponde a personas que expresaron algún grado de entusiasmo por usar IA como compañía, no a quienes dijeron sentir nerviosismo.

 

El Papa León XIV cuestionó al director ejecutivo de Nvidia, Jensen Huang, por oponerse a nuevas leyes para la inteligencia artificial. El pontífice pidió tomar en serio los riesgos de la tecnología y, según un reporte del Financial Times publicado por Diario Financiero, señaló una aparente contradicción entre esa oposición y la presentación de herramientas de seguridad de Nvidia.

La controversia se intensificó después de que Huang rechazara la necesidad de nuevas leyes específicas para la IA y defendiera que avanzar rápidamente no obliga a sacrificar la seguridad. La discusión coincide con una preocupación pública extendida, aunque una cifra atribuida al Índice de IA de Stanford requiere una precisión: el 52% mencionado en el informe corresponde a personas que expresaron algún grado de entusiasmo por usar IA como compañía, no a encuestados que dijeron sentir nerviosismo.

El desacuerdo entre el Papa León y Jensen Huang

El 15 de septiembre, Huang dijo que la industria de la IA no necesita nuevas leyes. En su intervención, defendió que la innovación puede avanzar junto con medidas de seguridad, en lugar de obligar a los desarrolladores a elegir entre rapidez y protección. Politico informó sobre sus declaraciones durante la conferencia Dreamforce, en San Francisco.

León XIV puso en duda que esa postura sea compatible con la preocupación por la seguridad, pese al lanzamiento reciente de herramientas de protección de Nvidia. El Papa dijo a periodistas que había visto esa iniciativa y cuestionó la oposición a la supervisión federal, según el reporte del Financial Times.

El desacuerdo no consiste únicamente en determinar si la IA puede ser peligrosa, sino también en quién debe establecer las salvaguardas y con qué alcance. Huang sostiene que los desarrolladores pueden combinar innovación acelerada con seguridad, mientras que el pontífice considera irresponsable apartar de antemano la posibilidad de que surjan daños y cerrar el debate regulatorio.

En mayo, León XIV publicó su primera encíclica, Magnifica humanitas, dedicada a la inteligencia artificial y a la protección de la persona. Christopher Olah, cofundador de Anthropic, hizo comentarios sobre el documento, según la compañía. El pontífice también exhortó a los pioneros tecnológicos a considerar las consecuencias humanas de esta tecnología.

El llamado del pontífice a cooperar

El Papa volvió a pedir que líderes políticos, empresas de inteligencia artificial, organizaciones sociales y asociaciones se reúnan para analizar tanto los efectos visibles como los posibles escenarios futuros. Su advertencia fue contra la actitud de negar que un riesgo pueda materializarse sin examinarlo, algo que calificó como una forma poco responsable de proceder.

León XIV también rechazó que las preocupaciones sobre los peligros de la IA deban tratarse como exageraciones o como «noticias falsas». El planteamiento del pontífice es que el debate público debe considerar los daños posibles antes de que la sociedad dependa más de sistemas cuyo alcance todavía está cambiando, aunque su llamado no determina por sí mismo qué regulación concreta debería adoptarse.

La exigencia de cooperación encuentra eco en las advertencias que formularon Dario Amodei, de Anthropic, y Sam Altman, de OpenAI, ante el Consejo de Seguridad de la ONU. Ambos ejecutivos alertaron sobre los peligros de una inteligencia artificial sin control y pidieron normas internacionales, según CNN en Español.

Amodei ya había defendido la cautela y pedido a las empresas que moderaran el ritmo de desarrollo. Esas posturas muestran que las diferencias no se limitan a un enfrentamiento entre políticos, líderes religiosos y tecnológicas: también hay ejecutivos que abogan por contener la velocidad de avance, mientras Huang defiende que la innovación rápida puede convivir con protecciones robustas.

Herramientas de seguridad y debate sobre los límites

Nvidia presentó nuevas herramientas relacionadas con la seguridad de la inteligencia artificial, entre ellas un sistema de vigilancia llamado Sentry. Según reportes sobre el anuncio, Sentry funciona como una capa separada que supervisa a los agentes de IA y puede intervenir si uno intenta actuar fuera de los límites establecidos. La existencia de estos productos refleja que la protección técnica forma parte de la conversación empresarial, pero no resuelve por sí sola la discusión sobre si hacen falta reglas públicas adicionales.

Huang ha reconocido que los beneficios sociales de la tecnología dependen de resolver vulnerabilidades de seguridad. Al presentar el último sistema de código abierto de Nvidia, afirmó que el potencial de la IA para la sociedad solo se hará realidad si se aborda ese problema, aunque no expresó intención de frenar el desarrollo de los sistemas.

La diferencia entre reconocer vulnerabilidades y respaldar nuevas normas está en el centro de la crítica del Papa. Una compañía puede crear herramientas propias para identificar riesgos, mientras que los partidarios de una supervisión gubernamental sostienen que también debe discutirse la responsabilidad pública. La información disponible no detalla qué mecanismos específicos respaldaría cada actor.

El debate, por tanto, combina dos preguntas distintas: cómo reducir fallas técnicas y qué límites deben aplicarse a quienes desarrollan o despliegan sistemas de IA. La posición de Huang favorece la compatibilidad entre rapidez y seguridad sin nuevas leyes, mientras León XIV pide que responsables políticos, compañías y organizaciones examinen de manera conjunta lo que ya ocurre y lo que podría venir.

Encuestas muestran inquietud y expectativas de cambio

El Índice de IA de Stanford recoge distintas actitudes ante la inteligencia artificial. La cifra del 52% citada en su apartado de opinión pública se refiere a encuestados que expresaron algún grado de entusiasmo por usar IA como compañía; no es una medición de nerviosismo ante la tecnología. El informe también señala que la inquietud por los productos de IA aumentó ligeramente.

La proporción de personas que considera que los beneficios de la IA superan sus inconvenientes pasó del 55% en 2024 al 59% en 2025, según las cifras citadas en la nota. Esos datos muestran que expectativas favorables y preocupaciones pueden coexistir.

En Malasia, Tailandia, Indonesia y Singapur, más del 80% de las personas consultadas cree que la IA transformará profundamente sus vidas durante los próximos tres a cinco años. Entre esos cuatro países, Malasia registró el mayor aumento de esa percepción respecto de 2024, según los datos mencionados en la nota.

La incertidumbre también está ligada al empleo. Los datos de seguimiento de Ipsos indicaron que, durante 2024 y 2025, la mayoría de los trabajadores siguió temiendo que la IA modificara o eliminara por completo sus funciones dentro de cinco años; la inquietud económica fue especialmente marcada en Estados Unidos y Canadá.

En esos dos países, el 67% y el 68% de los encuestados, respectivamente, esperaba que la IA eliminara empleos y desestabilizara industrias enteras. El temor no equivale a una predicción de que esos resultados necesariamente ocurrirán, pero sí refleja que parte del público anticipa cambios laborales de gran alcance en un horizonte relativamente cercano.

El Índice de IA 2026 de Stanford también señala diferencias entre países en la confianza sobre la capacidad de los gobiernos para regular la tecnología. La preocupación pública, por tanto, no siempre viene acompañada de confianza en los mecanismos de supervisión existentes, lo que añade otra dimensión al debate sobre quién debe garantizar que los sistemas sigan siendo seguros.

Las cifras describen una tensión: muchas personas reconocen beneficios potenciales y, al mismo tiempo, persisten la ansiedad por la seguridad y el temor a la automatización. A medida que avanza el desarrollo, el desacuerdo entre ejecutivos, autoridades y figuras públicas se concentra en cuánto control hace falta y quién debe asumir la responsabilidad de prevenir daños.

Imagen original de DiarioBitcoin, creada con inteligencia artificial, de uso libre, licenciada bajo Dominio Público

Este artículo fue escrito por un redactor de contenido de IA

 


ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín

Artículos Relacionados