Por Canuto  

Sam Altman pidió ante el Consejo de Seguridad de la ONU estándares internacionales para controlar la IA de frontera y aseguró que OpenAI volverá a frenar sus avances si es necesario. El ejecutivo también alertó sobre la concentración de poder y reclamó supervisión humana verificable.
***

  • Sam Altman dijo que OpenAI se ha frenado unilateralmente en el pasado y que volverá a hacerlo si enfrenta riesgos graves.
  • El ejecutivo pidió reglas comunes para probar capacidades, evaluar riesgos y mantener la supervisión humana de los modelos más avanzados.
  • OpenAI propuso notificar rápidamente los incidentes y crear canales seguros entre gobiernos, operadores de infraestructura y expertos técnicos.

 

Sam Altman, director ejecutivo de OpenAI, pidió estándares nacionales e internacionales para regular la inteligencia artificial de frontera durante una intervención ante el Consejo de Seguridad de la Organización de las Naciones Unidas, en Nueva York. El empresario sostuvo que ningún nivel de riesgo catastrófico asociado con la tecnología resulta aceptable, incluso si las estimaciones se ubican en 10% o en 0,1%, y afirmó que su compañía volverá a desacelerar cuando sea necesario.

La sesión fue convocada por Francia y se centró en los riesgos de seguridad derivados de una IA cada vez más capaz. La intervención de Altman se produjo en un contexto de creciente debate internacional sobre la necesidad de establecer reglas comunes para evaluar los sistemas avanzados y limitar sus posibles daños.

Una advertencia desde el Consejo de Seguridad

Altman describió un cambio en la percepción pública y empresarial sobre la IA, al señalar que durante años se habló del tema sin que la conversación tuviera la misma urgencia que ahora. “Llevamos años hablando de la inteligencia artificial, pero se siente diferente en las últimas semanas y meses”, dijo ante el organismo internacional, en referencia al ritmo reciente de desarrollo y a los riesgos que comienzan a preocupar a gobiernos y especialistas, reseña TNW.

El ejecutivo afirmó que coincide en gran medida con el diagnóstico presentado por otros especialistas, aunque redujo a dos los peligros principales que observa. A su juicio, el primero consiste en perder el control del futuro frente a sistemas de IA cada vez más autónomos, mientras que el segundo es la concentración de poder en demasiadas pocas manos, una combinación que podría afectar la capacidad de las sociedades para decidir su propio rumbo.

La competencia entre empresas y países, sostuvo Altman, no debe convertirse en una justificación para actuar de manera precipitada. “Nos hemos frenado unilateralmente en el pasado. Lo haremos en el futuro”, afirmó, con una promesa que coloca la capacidad de pausar el desarrollo como parte de la respuesta de seguridad de OpenAI, incluso dentro de una industria marcada por la presión para lanzar modelos más potentes.

Su argumento no depende de que los expertos alcancen un consenso sobre una probabilidad concreta de desastre. Altman señaló que tanto una posibilidad de 10% como una de 0,1% representaría un riesgo inaceptable si el resultado potencial fuera catastrófico, y planteó que las empresas no deberían entrenar nuevos modelos hasta demostrar, con argumentos sólidos, que permanecerán bajo control humano.

Reglas comunes para una tecnología global

Las propuestas de Altman se apoyan en un documento de estándares que OpenAI publicó recientemente. La compañía busca que existan criterios comunes para probar las capacidades de los modelos, evaluar sus riesgos y comprobar si las personas mantienen una supervisión efectiva, de manera que los países puedan comparar evidencias y verificar el cumplimiento de las obligaciones.

El planteamiento también incluye la notificación rápida de incidentes y la creación de canales seguros de comunicación entre gobiernos, operadores de infraestructura y expertos técnicos. Esos mecanismos apuntan a que un problema detectado durante el entrenamiento o el despliegue de un modelo no quede limitado al conocimiento de una sola empresa, especialmente cuando sus consecuencias puedan cruzar fronteras o comprometer sistemas críticos.

OpenAI sostiene que los estándares no deberían consolidar la posición de los operadores que ya dominan el mercado. Altman pidió que las reglas apoyen tanto a los desarrolladores de modelos abiertos como a quienes trabajan con modelos cerrados, una distinción relevante porque las exigencias de seguridad, auditoría y acceso a la información pueden producir efectos distintos según la arquitectura y la forma de distribución de cada sistema.

El diseño de normas comparables también busca evitar que cada gobierno mida los riesgos con criterios incompatibles. En la práctica, una referencia común permitiría contrastar las pruebas realizadas por distintos laboratorios, identificar fallas con mayor rapidez y establecer responsabilidades más claras sin convertir automáticamente la regulación en una barrera reservada para las compañías con mayores recursos.

El poder, la democracia y los límites de OpenAI

El director ejecutivo de OpenAI advirtió que la preocupación no se limita a una eventual pérdida de control técnico sobre los modelos. “Ninguna persona, empresa o país debería poder usar los modelos de IA más potentes para imponer su visión del mundo a todos los demás”, dijo, al vincular la seguridad de la tecnología con la distribución del poder político, económico y cultural.

Desde esa perspectiva, la discusión internacional no solo debe preguntar si un sistema funciona o si supera una prueba de rendimiento, sino también quién decide para qué se utiliza y bajo qué controles. Altman sostuvo que, si la IA pretende ser democrática, las decisiones más importantes no pueden quedar exclusivamente en manos de laboratorios ubicados en San Francisco, donde se concentra una parte significativa del desarrollo de modelos avanzados.

La intervención incluyó además una referencia a la afirmación realizada por OpenAI este mes, según la cual uno de sus modelos resolvió el problema de Navier-Stokes, uno de los Problemas del Milenio. El resultado todavía no ha sido verificado de manera independiente, por lo que la mención funciona como ejemplo del tipo de capacidades extraordinarias que podrían acelerar el debate sobre pruebas, validación externa y límites de despliegue.

Altman cerró con una comparación abierta sobre el posible impacto histórico de la IA. Dijo que la tecnología puede convertirse en un nuevo renacimiento de la creatividad y el descubrimiento, o en una nueva revolución industrial marcada por la disrupción y el desorden, y añadió que quienes la construyen no son necesariamente los héroes de la historia, aunque tengan una influencia decisiva sobre su desenlace.

Qué queda pendiente para la industria

La promesa de frenar unilateralmente representa una declaración política y empresarial, pero su aplicación dependerá de cómo OpenAI defina un riesgo inaceptable y de qué evidencia considere suficiente para demostrar que un modelo permanece bajo control humano. Sin criterios públicos y verificables, la decisión de detenerse podría quedar sujeta a interpretaciones internas, precisamente el escenario que los estándares internacionales pretenden reducir.

El llamado a coordinar gobiernos, operadores de infraestructura y especialistas también plantea un desafío de implementación. Las autoridades necesitarían recibir información oportuna sin exponer detalles que faciliten abusos, mientras que los desarrolladores tendrían que equilibrar la transparencia con la protección de sistemas, datos y métodos de entrenamiento que consideran estratégicos.

La inclusión de modelos abiertos y cerrados amplía el alcance de la propuesta, porque evita tratar la innovación como un fenómeno exclusivo de las grandes empresas tecnológicas. Sin embargo, cualquier marco común deberá explicar cómo se aplican las obligaciones cuando un modelo se distribuye ampliamente, cuando sus modificaciones escapan al control del creador original o cuando distintos países mantienen exigencias regulatorias incompatibles.

El debate en el Consejo de Seguridad no resuelve esas preguntas, pero eleva la seguridad de la IA a un escenario donde suelen discutirse amenazas con impacto internacional. Para OpenAI, el mensaje combina una defensa de la coordinación global con el reconocimiento de que la carrera por construir sistemas más capaces no justifica ignorar los riesgos que todavía no pueden medirse por completo.

Imagen original de DiarioBitcoin, creada con inteligencia artificial, de uso libre, licenciada bajo Dominio Público.

Este artículo fue escrito por un redactor de contenido de IA y revisado por un editor humano para garantizar calidad y precisión.


ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín

Artículos Relacionados