Por Canuto  

Sam Altman, CEO de OpenAI, pidió regular el ritmo del desarrollo de la inteligencia artificial y advirtió que la humanidad podría perder el control del futuro ante sistemas cada vez más poderosos. Su llamado también apunta al riesgo de una concentración extrema de poder en manos de una empresa, una persona o un país.
***

  • Sam Altman pidió que el desarrollo de la IA avance con mayor prudencia, sin que las capacidades superen la alineación y el monitoreo.
  • El CEO de OpenAI identificó dos riesgos principales: perder el control del futuro ante la IA y concentrar demasiado poder en pocos actores.
  • La advertencia se suma a las propuestas de Dario Amodei y al debate internacional sobre estándares compartidos de seguridad para la IA.

El CEO de OpenAI, Sam Altman, pidió regular el ritmo del desarrollo de la inteligencia artificial y advirtió que la humanidad podría perder el control del futuro ante sistemas cada vez más capaces. El ejecutivo sostuvo que el progreso tecnológico continuará, pero consideró que debería avanzar más lentamente de lo que permitirían las capacidades técnicas, para que la seguridad, la alineación y el monitoreo puedan mantenerse a la altura.

La advertencia no equivale, según Altman, a detener la innovación ni a cerrar la puerta a nuevos modelos de IA. Su argumento plantea un problema de gobernanza: la competencia entre empresas y países no debería empujar a los desarrolladores a desplegar sistemas cuyas capacidades avancen más rápido que los mecanismos diseñados para supervisarlos, corregirlos o limitar sus efectos.

Altman identifica dos riesgos para el futuro de la IA

En una serie de declaraciones públicas, Altman afirmó que existen dos formas principales en las que el progreso de la IA podría salir muy mal. La primera sería que los seres humanos perdieran el control del futuro ante la tecnología, una posibilidad vinculada con sistemas que operen con demasiada autonomía o que resulten difíciles de comprender, supervisar y alinear con los objetivos humanos.

El segundo riesgo señalado por el dirigente de OpenAI es la concentración excesiva de poder. Altman planteó que una inteligencia artificial extraordinariamente poderosa, en manos de una sola persona o empresa, podría utilizarse para imponer una visión del mundo al resto de la sociedad, con resultados que calificó como extremadamente distópicos.

La preocupación no se limita a quién controla los modelos, sino también a quién define sus reglas, sus prioridades y los límites de sus aplicaciones. Una concentración de ese tipo podría afectar la distribución de información, la toma de decisiones y la capacidad de otros gobiernos, compañías o ciudadanos para cuestionar las decisiones de los operadores dominantes.

Altman aseguró que OpenAI está incondicionalmente del lado de la humanidad y que la IA siempre debe servir a las personas. Esa formulación busca establecer un principio general para el desarrollo de la tecnología, aunque el propio debate de la industria muestra que todavía existen desacuerdos sobre cómo convertirlo en estándares verificables, controles efectivos y obligaciones comunes para los laboratorios.

Regular el ritmo sin detener el progreso

Altman explicó que regular el ritmo no significa detener el desarrollo de la IA, porque el avance ha sido rápido y seguirá siéndolo. Sin embargo, sostuvo que las empresas deberían aceptar el costo de incorporar evaluaciones de seguridad, monitoreo y otras intervenciones que pueden hacer más lento el lanzamiento de sistemas nuevos, especialmente cuando aumentan sus capacidades de autonomía y razonamiento.

El CEO de OpenAI también advirtió que ninguna presión competitiva estadounidense debería justificar la imprudencia. En su planteamiento, mantener una ventaja tecnológica frente a otros países no puede convertirse en una razón para permitir que las capacidades se adelanten a la alineación y al monitoreo, dos áreas destinadas a reducir comportamientos imprevistos o incompatibles con las instrucciones humanas.

La petición llega después de que Dario Amodei, CEO de Anthropic, publicara un extenso ensayo en el que pidió desacelerar el desarrollo de los modelos de frontera. Altman, Elon Musk, quien dirige xAI, y Demis Hassabis, responsable de Google DeepMind, expresaron su acuerdo con Amodei, lo que refleja una coincidencia poco habitual entre líderes de empresas que compiten por construir sistemas cada vez más avanzados.

El debate también incluye a investigadores y antiguos empleados de laboratorios de IA que han advertido sobre una carrera hacia sistemas capaces de operar con una supervisión humana limitada. Jacob Coxon, exinvestigador de Anthropic que previamente trabajó en Anthropic y OpenAI según la información citada, renunció y acusó a ambas compañías de avanzar directamente hacia una superinteligencia capaz de mejorar sus propios sistemas, mientras apostaban el futuro de la humanidad.

Temores de autonomía y seguridad en la industria

Coxon advirtió que sistemas futuros podrían llegar a piratear redes informáticas, adquirir recursos y actuar más allá de una supervisión humana significativa. Sus afirmaciones representan una posición dentro de una discusión más amplia, no un hecho demostrado sobre los sistemas actuales, pero contribuyeron a intensificar la presión sobre los laboratorios que desarrollan modelos de frontera.

Evan Hubinger, líder de Ciencia de Alineación en Anthropic y antiguo compañero de Coxon, llevó el debate a un escenario todavía más extremo. Según la información publicada por Newsweek, Hubinger dijo que muchas personas que construyen sistemas avanzados creen en privado que existe una probabilidad superior al 10% de que la IA pueda matar a todos los seres humanos dentro de la próxima década, una afirmación que provocó una reacción inmediata en la industria.

Otros investigadores, entre ellos el exintegrante de OpenAI Daniel Kokotajlo, también han alertado que el ritmo de desarrollo puede superar las medidas de seguridad. El punto común de estas advertencias es que la autonomía creciente de los modelos podría dificultar las pruebas tradicionales, porque los sistemas tendrían más capacidad para ejecutar tareas, modificar sus estrategias y actuar durante periodos prolongados sin intervención directa.

Altman no respaldó las predicciones más extremas sobre una posible extinción humana, pero sí colocó a OpenAI dentro del debate sobre los riesgos de pérdida de control. Su propuesta insiste en que los esfuerzos de seguridad, monitoreo y alineación deben crecer al mismo ritmo que las capacidades, al tiempo que los gobiernos y los laboratorios evitan que una cantidad reducida de actores acumule una influencia desproporcionada.

Gobiernos y empresas buscan reglas comunes

Altman afirmó que las compañías de IA seguirán necesitando ayuda gubernamental para establecer un marco internacional. Antes de alcanzar un acuerdo global, sin embargo, consideró que las empresas y las autoridades deberían hacer todo lo posible por mejorar sus propias prácticas, crear estándares compartidos y establecer requisitos consistentes para los desarrolladores de modelos de frontera.

La discusión ya llegó a Washington, donde algunos legisladores plantean la necesidad de definir barreras para los sistemas más avanzados. Mike Johnson, presidente de la Cámara de Representantes de Estados Unidos, sugirió que el Congreso, la Casa Blanca y las principales empresas de IA deberían reunirse para encontrar un equilibrio entre la seguridad nacional y la seguridad inmediata de los modelos.

El presidente Donald Trump, de acuerdo con la información citada por Newsweek, ha descartado en gran medida las predicciones más apocalípticas y ha insistido en que Estados Unidos debe mantenerse por delante de China en la carrera global de la IA. Durante una conversación con periodistas en su club de golf en Doonbeg, Irlanda, dijo que quien gane la IA ganará, aunque también reconoció la posibilidad de establecer barreras de protección.

El contraste entre ambas posiciones expone una tensión central para la política tecnológica: acelerar la innovación puede fortalecer la posición internacional de un país, pero también puede ampliar los riesgos si los controles llegan después de los despliegues. Para Altman, la competencia no debería eliminar la prudencia; para quienes priorizan el liderazgo geopolítico, ralentizar demasiado el desarrollo podría dejar una ventaja estratégica en manos de otros actores.

La dimensión internacional del debate

El debate sobre la gobernanza de la IA también se extiende más allá de Estados Unidos. El rey Carlos III tenía previsto organizar una cumbre privada en Dumfries House, Escocia, con representantes de empresas como Nvidia y Google DeepMind, en un encuentro orientado a discutir cómo desarrollar la inteligencia artificial para beneficio de la humanidad mientras se abordan la seguridad, la supervisión y el ritmo del cambio.

La reunión no tenía previsto producir regulaciones vinculantes, pero podía servir para acercar a gobiernos, compañías e investigadores alrededor de ciertos principios. Un corresponsal real citado por Politico explicó que el rey buscaba convocar, escuchar y fomentar el debate sobre uno de los desafíos globales más importantes, una función que refleja la dificultad de coordinar reglas cuando la tecnología opera a través de fronteras.

La cooperación internacional enfrenta, no obstante, una disputa geopolítica. El periódico estatal chino Global Times criticó el ensayo de Amodei y describió su propuesta de desaceleración como un manual de la Guerra Fría, al argumentar que podría utilizarse para contener el avance tecnológico de China y preservar el dominio estadounidense en la IA avanzada.

Ese editorial también acusó a la propuesta de excluir a China de las conversaciones sobre gobernanza y calificó el enfoque como una Guerra Fría silenciosa de la IA. Mientras Washington y Pekín preparan discusiones sobre los riesgos de los modelos de frontera, el desacuerdo muestra que la seguridad tecnológica no se separa fácilmente de la competencia económica, militar y estratégica entre las principales potencias.

La advertencia de Altman deja así una doble exigencia para la industria: construir sistemas más seguros y evitar que su control quede concentrado en pocas manos. El desafío será transformar esas preocupaciones en mecanismos verificables antes de que el ritmo de la innovación haga más difícil corregir sus consecuencias.

Imagen original de DiarioBitcoin, creada con inteligencia artificial, de uso libre, licenciada bajo Dominio Público.

Este artículo fue escrito por un redactor de contenido de IA y revisado por un editor humano para garantizar calidad y precisión.


ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín

Artículos Relacionados