Por Angel Di Matteo   𝕏 @shadowargel

OpenAI presentó una nueva propuesta regulatoria para la inteligencia artificial avanzada que difiere en aspectos clave de la reciente orden ejecutiva impulsada por el presidente Donald Trump. La compañía busca que las evaluaciones de riesgo para modelos de IA sean obligatorias y estén bajo supervisión de organismos civiles, no de agencias de inteligencia.

***

 

  • OpenAI propone evaluaciones obligatorias para modelos avanzados de IA.
  • La empresa discrepa con el papel central otorgado a la NSA por la Casa Blanca.
  • Sam Altman se reúne con funcionarios y legisladores para impulsar su visión regulatoria.

 

OpenAI intensificó esta semana sus esfuerzos para influir en el futuro marco regulatorio de la inteligencia artificial en Estados Unidos, presentando una propuesta que introduce diferencias importantes frente a la estrategia anunciada recientemente por la administración del presidente Donald Trump.

El documento de política pública divulgado por la compañía plantea que los desarrolladores de sistemas avanzados de IA deberían someter sus modelos a evaluaciones obligatorias de riesgo antes de su despliegue. Sin embargo, OpenAI considera que la supervisión de este proceso debe recaer en organismos civiles especializados y no en agencias vinculadas a la seguridad nacional, detalla un reportaje publicado por Politico.

La propuesta surge apenas días después de que la Casa Blanca emitiera una orden ejecutiva que establece un marco voluntario para la evaluación de riesgos cibernéticos asociados a modelos avanzados de inteligencia artificial, iniciativa que sería liderada por la Agencia de Seguridad Nacional de Estados Unidos (NSA).

Diferencias con el plan de la Casa Blanca

El principal punto de desacuerdo gira en torno a quién debe supervisar las evaluaciones de seguridad.

Mientras la administración Trump propone que la NSA desempeñe un papel central en la revisión de sistemas avanzados de IA, OpenAI plantea que esa responsabilidad recaiga en el Center for AI Standards and Innovation (CAISI), una oficina adscrita al Instituto Nacional de Estándares y Tecnología (NIST), dependiente del Departamento de Comercio.

La empresa argumenta que CAISI ya mantiene relaciones de trabajo con los principales desarrolladores de inteligencia artificial del país y dispone de experiencia técnica para realizar pruebas avanzadas de seguridad.

Chris Lehane, vicepresidente de asuntos globales de OpenAI, señaló que compañías como OpenAI y Anthropic ya comparten información sobre nuevos modelos con dicho organismo.

“CAISI ha desarrollado capacidades reales para llevar a cabo pruebas sofisticadas y ya tiene una relación establecida con las principales empresas del sector”, afirmó Lehane durante una conversación con periodistas.

Según el ejecutivo, la NSA actualmente no cuenta con ese nivel de interacción directa con los desarrolladores de modelos avanzados.

Sam Altman busca influir en el proceso

La publicación de la propuesta coincide con una intensa agenda política para Sam Altman en Washington.

El CEO de OpenAI sostuvo este miércoles reuniones con funcionarios de la Casa Blanca y legisladores de ambos partidos, en momentos en que la administración estadounidense comienza a definir los detalles concretos de su estrategia regulatoria para la inteligencia artificial.

Lehane aseguró que Altman aprovechará esos encuentros para promover la visión de OpenAI y participar activamente en las discusiones que definirán el papel de los distintos organismos federales.

La empresa considera que todavía existe margen para influir en la implementación final de la orden ejecutiva, especialmente porque las agencias involucradas disponen de un plazo de 60 días para desarrollar los mecanismos específicos de evaluación y supervisión.

Debate sobre umbrales y transparencia

Otro de los aspectos que preocupa a OpenAI es la intención de la Casa Blanca de desarrollar sistemas de referencia o “benchmarks” clasificados para determinar cuándo un modelo de IA alcanza capacidades que justifican una revisión especial por parte de las autoridades.

Según Lehane, la falta de criterios públicos podría generar incertidumbre para las empresas tecnológicas.

“Una de las preguntas fundamentales es cuándo un modelo cruza el umbral de capacidad que activa estas revisiones”, indicó.

Para OpenAI, resulta importante que existan parámetros claros y transparentes que permitan a las compañías entender cuándo sus sistemas estarán sujetos a mayores controles regulatorios.

Evaluaciones obligatorias, pero sin autorizaciones previas

Aunque OpenAI aboga por mecanismos obligatorios de evaluación para modelos avanzados, la empresa evita por ahora respaldar regulaciones más estrictas que obliguen a obtener aprobación gubernamental antes del lanzamiento de nuevos sistemas.

Lehane sostuvo que primero debe construirse una infraestructura sólida de evaluación y análisis antes de debatir medidas regulatorias más agresivas.

“No creemos que ningún laboratorio de IA deba tomar estas decisiones unilateralmente”, afirmó, al defender la necesidad de una supervisión externa.

Sin embargo, añadió que todavía es prematuro discutir requisitos de autorización previa para nuevos modelos mientras no exista un marco de evaluación suficientemente robusto.

Una batalla por definir quién regula la IA

La propuesta refleja una creciente disputa sobre quién debe liderar la supervisión de la inteligencia artificial en Estados Unidos.

Mientras sectores vinculados a la seguridad nacional consideran que los modelos más avanzados representan riesgos estratégicos que justifican la intervención de agencias como la NSA, empresas tecnológicas y algunos legisladores prefieren una aproximación más civil y técnica centrada en organismos especializados.

El resultado de este debate podría determinar no solo la forma en que se regula la inteligencia artificial en Estados Unidos durante los próximos años, sino también el equilibrio de poder entre las grandes tecnológicas, los reguladores civiles y las agencias de seguridad nacional en una de las industrias más importantes del futuro.

Imagen original de DiarioBitcoin, creada con inteligencia artificial, de uso libre, licenciada bajo Dominio Público.

Este artículo fue escrito por un redactor de contenido de IA y revisado por un editor humano para garantizar calidad y precisión.


ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín

Artículos Relacionados