Por Canuto  

La Casa Blanca completó su marco de IA voluntario, pero mantiene sus criterios y umbrales en secreto. Las empresas no saben qué modelos serán revisados y la industria cuestiona la falta de transparencia.
***

  • La Casa Blanca finalizó su marco de IA voluntario, pero no revela su contenido.
  • Los criterios para evaluar modelos de IA son clasificados, y el umbral de cobertura también.
  • OpenAI, Google y Anthropic revisaron un borrador, y una reunión está programada para el martes.

La Casa Blanca confirmó el lunes que su marco voluntario para evaluar modelos avanzados de IA está terminado. La administración no ofrecerá detalles sobre su contenido a pesar de la promesa de transparencia.

El marco se deriva de la orden ejecutiva emitida el 2 de junio, que establece una revisión previa de 30 días para modelos de frontera. La falta de información pública ha generado críticas.

Un funcionario de la Casa Blanca afirmó que el marco se completó dentro del plazo. En cuanto a los detalles, solo dijo que las discusiones con la industria están en curso.

Los criterios para evaluar las capacidades cibernéticas son clasificados. El umbral que define qué modelos quedan cubiertos también es secreto.

Esto implica que los desarrolladores no conocerán los umbrales exactos. Solo se comparten “según sea apropiado” con los involucrados.

El marco en sí no está clasificado, pero no será público. Un funcionario dijo que “solo porque las cosas no estén clasificadas no significa que las vamos a transmitir a todos”.

El marco completo, pero invisible

En la orden ejecutiva del 2 de junio, el gobierno prometió un marco para decidir si los modelos de IA en desarrollo estarían sujetos a revisión. La Casa Blanca ha cumplido el plazo, pero no ha publicado el documento.

Según el medio The Next Web, funcionarios de la administración no revelaron quién ha visto el marco ni cuándo se aplicará a las empresas. Esta falta de divulgación contradice el espíritu de apertura que se esperaba.

Un portavoz indicó que las discusiones con la industria sobre los próximos pasos siguen en curso. No se especificó si habrá una versión pública.

El marco está diseñado para funcionar como una evaluación previa al lanzamiento de los modelos más potentes. La ventana de revisión de 30 días es parte del proceso.

Sin conocer los criterios, las empresas no pueden prepararse para cumplir con los requisitos. Esto genera incertidumbre en el sector.

Además, la combinación de criterios clasificados y umbrales no divulgados crea un mecanismo de bloqueo de facto. Las compañías no pueden impugnar ni evaluar las decisiones del gobierno.

Criterios clasificados y umbrales ocultos

Los criterios utilizados para evaluar las capacidades cibernéticas de los modelos son clasificados. Solo la NSA, la agencia de seguridad nacional, tiene acceso a ellos.

El umbral que establece qué modelos están cubiertos por la orden ejecutiva también es secreto. Se comparte con los desarrolladores de manera individual y bajo confidencialidad.

Un funcionario de la Casa Blanca explicó que el marco en sí no es confidencial, pero no se hará público. La justificación es que no todo lo no clasificado debe ser divulgado.

Esta opacidad ha sido criticada por expertos en políticas de IA. Argumentan que sin transparencia, la voluntariedad del marco se vuelve ilusoria.

La orden ejecutiva presentó la revisión como voluntaria, pero las reglas ocultas convierten el proceso en una obligación no oficial. Las empresas podrían enfrentar consecuencias si no cooperan.

La falta de claridad también dificulta la evaluación independiente de la efectividad del marco. Los investigadores no pueden analizar si los criterios son adecuados o sesgados.

Reuniones con la industria y próximos pasos

OpenAI, Google y Anthropic revisaron un borrador del marco durante su desarrollo. La administración dice que ha consultado a “muchos más” socios de la industria, aunque no los nombró.

Una reunión a nivel de personal con las empresas está programada para el martes para revisar el marco completado. Este encuentro busca alinear a los actores clave con los nuevos requerimientos.

La Casa Blanca también lanzó esta semana la iniciativa Gold Eagle para coordinar la defensa cibernética impulsada por IA. Este proyecto complementa el marco de evaluación de modelos.

Gold Eagle se encarga de encontrar vulnerabilidades en los sistemas de IA. El marco decide qué modelos son lo suficientemente potentes como para requerir revisión gubernamental antes de su lanzamiento.

La relación entre ambas iniciativas sugiere que el gobierno está construyendo un sistema de control integral de IA. Sin embargo, la falta de detalles sobre el marco limita la comprensión de sus alcances.

Las empresas tecnológicas han solicitado mayor claridad, pero las respuestas han sido vagas. La única promesa es que más discusiones están en curso.

Implicaciones para la industria

El marco voluntario, con criterios secretos, podría generar un efecto disuasorio en la innovación. Las empresas podrían retrasar sus lanzamientos para evitar conflictos con el gobierno.

Los defensores de la seguridad de IA esperaban ver detalles concretos sobre los umbrales. Su ausencia impide que la comunidad evalúe si los riesgos están siendo adecuadamente mitigados.

La falta de transparencia también plantea preguntas sobre el equilibrio entre seguridad y competitividad. Solo los actores con acceso a información privilegiada podrán navegar el sistema.

El hecho de que el marco no sea clasificado, pero se mantenga en secreto, crea una zona gris legal. Las empresas no saben si deben asumir que estarán sujetas a revisión.

La situación actual recuerda a las controversias previas sobre regulación de IA. La administración había prometido un enfoque abierto, pero la práctica parece más restrictiva.

Sin acceso público a los criterios, la responsabilidad del gobierno queda sin supervisión. Esto podría llevar a decisiones arbitrarias en el futuro.

Concluimos que la decisión de mantener el marco en secreto podría tener consecuencias significativas para la industria de IA. La comunidad espera que futuras actualizaciones ofrezcan más claridad.


ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín

Artículos Relacionados