Por Canuto  

La ONU pidió a gobiernos y empresas de inteligencia artificial de frontera actuar con urgencia para limitar una tecnología que, según Volker Türk, plantea riesgos sin precedentes para los derechos humanos, los servicios esenciales y la seguridad mundial.
***

  • Volker Türk pidió a los Estados y a las empresas de IA avanzada coordinar reglas internacionales basadas en los derechos humanos.
  • La ONU advirtió que los sistemas agénticos podrían afectar servicios como el agua potable, la calefacción y las finanzas, además de acelerar la guerra.
  • Anthropic, OpenAI y xAI respaldaron el debate sobre ralentizar el desarrollo, mientras Donald Trump y aliados se oponen a frenar la innovación.

La Organización de las Naciones Unidas elevó la presión sobre los gobiernos y las principales empresas de inteligencia artificial para que actúen con urgencia frente a los riesgos de los modelos más avanzados. Volker Türk, alta comisionada de la ONU para los Derechos Humanos, advirtió que la actual carrera por desarrollar sistemas cada vez más poderosos puede conducir a un cambio irreversible para las generaciones presentes y futuras.

En una carta enviada a los países y a los desarrolladores de IA de frontera, Türk reclamó una respuesta coordinada mediante foros multilaterales y bajo el marco del derecho internacional de los derechos humanos. Su advertencia llega mientras compañías tecnológicas, investigadores y gobiernos discuten si conviene ralentizar el desarrollo de la tecnología o mantener el ritmo de inversión y competencia que domina actualmente al sector.

La ONU pide gobernar la IA avanzada

Türk sostuvo que el mundo se encuentra al borde de una transformación que no afectará únicamente a la sociedad actual, sino también a las generaciones de la humanidad que todavía no han nacido. Según su carta, la carrera hacia una inteligencia artificial más potente representa un cambio radical porque amplía los riesgos potenciales en prácticamente todos los aspectos de la vida cotidiana.

El funcionario pidió a los Estados y a las empresas que se movilicen de inmediato para definir un camino común sobre la gobernanza de los modelos avanzados de IA de frontera. La propuesta no se limita a establecer normas técnicas, sino que plantea utilizar los derechos humanos como base para decidir qué sistemas pueden desarrollarse, cómo deben controlarse y qué límites no deberían cruzarse.

La oficina de derechos humanos de la ONU indicó que la carta fue enviada a 10 desarrolladores de inteligencia artificial, entre ellos Meta, Microsoft y Google, además de Anthropic, xAI y OpenAI. Las compañías más avanzadas, con sede principalmente en Estados Unidos y la República Popular China, tienen tanto la responsabilidad como la capacidad de reducir de inmediato los riesgos asociados con sus modelos, según Türk.

La carta también cuestionó que las decisiones con consecuencias para toda la humanidad dependan casi por completo de un grupo reducido de empresas poderosas. Türk describió la corregulación de la industria como un primer paso necesario, pero advirtió que ese mecanismo no resulta suficiente por sí solo, porque ninguna compañía debería determinar unilateralmente qué riesgos debe aceptar el mundo.

Servicios esenciales y seguridad bajo presión

La advertencia de la ONU abarca escenarios que van más allá de la automatización laboral o de la competencia comercial entre plataformas. Türk afirmó que poblaciones enteras podrían perder acceso al agua potable, la calefacción y los servicios financieros si sistemas de IA cada vez más capaces alteran o interrumpen infraestructuras críticas.

El comisionado también centró su preocupación en la llamada IA agéntica, una categoría de sistemas capaces de ejecutar tareas y tomar decisiones con mayor autonomía. En su evaluación, estos agentes ya están acelerando el ritmo y el alcance de la guerra, al tiempo que debilitan las salvaguardas que separan las decisiones tecnológicas de un posible lanzamiento de armas de destrucción masiva.

La referencia a esos riesgos no equivale a afirmar que todos los escenarios extremos ocurrirán, pero sí refleja la gravedad con la que la ONU observa la expansión de capacidades autónomas. Para Türk, el problema central consiste en que la innovación avanza más rápido que los mecanismos internacionales capaces de supervisarla, corregir sus fallos y exigir responsabilidades cuando cause daños.

Desde una perspectiva de derechos humanos, el debate incluye la protección de las personas frente a decisiones automatizadas que afectan su acceso a servicios básicos, seguridad y oportunidades económicas. Türk rechazó que los ciudadanos deban renunciar a sus derechos a cambio de promesas de progreso tecnológico, una posición que coloca la dignidad individual por encima de la velocidad de lanzamiento de nuevos modelos.

El debate sobre ralentizar la carrera tecnológica

El llamado de la ONU se produjo en medio de una discusión cada vez más intensa sobre la conveniencia de desacelerar el desarrollo de la inteligencia artificial. El presidente de Estados Unidos, Donald Trump, y aliados clave se han opuesto a las propuestas para frenar la tecnología, mientras las compañías compiten por ampliar sus modelos, productos y capacidades.

La preocupación aumentó este mes después de que un investigador de Anthropic renunciara públicamente por temor a que la inteligencia artificial pudiera escapar al control humano. Otro empleado de la compañía, que no renunció, declaró que dentro de la empresa existe una preocupación sincera sobre la posibilidad de que la IA mate a todos los seres humanos y estimó que las probabilidades superarían el 10% durante la próxima década.

En medio de esa controversia, Dario Amodei, director ejecutivo de Anthropic, pidió el sábado a las empresas del sector que “ritmen la frontera”, expresión utilizada para plantear una desaceleración coordinada del desarrollo. La propuesta recibió respaldo público de Elon Musk, de xAI, y Sam Altman, de OpenAI, dos competidores que normalmente participan en la carrera por aumentar la capacidad de sus sistemas.

La coincidencia entre ejecutivos rivales muestra que el debate ya no está limitado a organizaciones académicas o grupos de activistas, aunque tampoco significa que exista un acuerdo general sobre una pausa o un límite concreto. La disputa enfrenta la promesa de avances más rápidos con el temor de que una competencia sin coordinación produzca sistemas cuyas consecuencias resulten imposibles de revertir.

La cooperación internacional como próximo desafío

Türk insistió en que ningún país puede gobernar por sí solo una tecnología con efectos transfronterizos y que ninguna empresa debería decidir sin supervisión qué nivel de riesgo resulta aceptable para el resto del planeta. Esa posición plantea un desafío particularmente complejo porque los principales desarrolladores operan en jurisdicciones distintas y compiten por ventajas económicas, estratégicas y geopolíticas.

La propuesta de la ONU busca llevar la discusión a foros multilaterales, donde los gobiernos puedan definir principios comunes y exigir mayor responsabilidad a las compañías. Sin embargo, la carta no establece un calendario específico, una sanción determinada ni un mecanismo único para detener el desarrollo de modelos de frontera, por lo que el siguiente paso dependerá de la voluntad política y empresarial.

Para el sector tecnológico, una regulación internacional podría ofrecer reglas más claras y reducir la incertidumbre sobre el desarrollo de productos, aunque también podría limitar la velocidad con la que las empresas lanzan nuevas funciones. Para los defensores de los derechos humanos, en cambio, la prioridad consiste en asegurar que la innovación no convierta a las personas en participantes involuntarios de experimentos cuyos riesgos no pueden evaluar ni controlar.

El llamado de Türk coloca a la inteligencia artificial en una discusión similar a la de otras tecnologías capaces de transformar sociedades completas: el avance técnico no basta si no existe una estructura de supervisión, transparencia y rendición de cuentas. Mientras gobiernos y empresas definen sus posiciones, la ONU sostiene que el mundo no debería esperar a que ocurra un daño irreversible para comenzar a gobernar los sistemas más poderosos.

La tensión entre seguridad, derechos humanos e innovación seguirá creciendo a medida que los modelos de IA incorporen más autonomía y lleguen a servicios esenciales, mercados financieros y escenarios militares. La pregunta que queda abierta es si los Estados podrán coordinar límites antes de que la competencia tecnológica convierta la prevención en una tarea tardía.

Imagen original de DiarioBitcoin, creada con inteligencia artificial, de uso libre, licenciada bajo Dominio Público.

Este artículo fue escrito por un redactor de contenido de IA y revisado por un editor humano para garantizar calidad y precisión.


ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín

Artículos Relacionados