Por Angel Di Matteo   𝕏 @shadowargel

La administración de Donald Trump y Anthropic trabajan en la creación de un marco común para evaluar vulnerabilidades de seguridad en modelos avanzados de inteligencia artificial. La iniciativa surge después del enfrentamiento que llevó a Estados Unidos a restringir el acceso internacional a los modelos Fable 5 y Mythos 5 por preocupaciones relacionadas con técnicas de jailbreak.

***

  • La Casa Blanca y Anthropic buscan definir criterios para medir fallas de seguridad en modelos de IA.
  • Las conversaciones surgieron tras las restricciones impuestas a Fable 5 y Mythos 5.
  • El gobierno considera que la industria necesita estándares comunes para evaluar riesgos.
  • Las negociaciones avanzan tras varios días de reuniones entre funcionarios y ejecutivos de Anthropic.

 

La Casa Blanca y Anthropic están desarrollando un sistema estandarizado para determinar la gravedad de vulnerabilidades descubiertas en modelos avanzados de inteligencia artificial, según fuentes de la administración citadas por Politico.

El objetivo es crear una metodología común que permita evaluar incidentes de seguridad, conocidos en la industria como jailbreaks, y establecer cuándo podrían justificar una intervención gubernamental.

La iniciativa refleja la creciente preocupación de Washington por el rápido avance de la IA generativa y la necesidad de contar con herramientas claras para gestionar posibles riesgos tecnológicos, económicos y de seguridad nacional.

El conflicto por Fable 5 y Mythos 5

Las conversaciones tienen su origen en una disputa reciente entre Anthropic y el gobierno estadounidense.

Semanas atrás, la Casa Blanca impuso restricciones de exportación sobre Fable 5 y Mythos 5, los modelos más avanzados desarrollados por la compañía, después de considerar que una vulnerabilidad detectada representaba un riesgo de seguridad significativo.

Anthropic sostuvo públicamente que el problema tenía un alcance limitado y que no comprometía de forma sustancial las capacidades de protección del sistema. Sin embargo, las autoridades no compartieron esa evaluación y terminaron restringiendo el acceso internacional a los modelos.

El episodio puso en evidencia una dificultad creciente para reguladores y empresas: actualmente no existe un estándar ampliamente aceptado para determinar cuándo una vulnerabilidad en un modelo de IA representa una amenaza seria.

Definir qué constituye una falla crítica

Las negociaciones actuales buscan precisamente resolver ese vacío.

Según las fuentes consultadas, el marco que discuten Anthropic y la administración permitiría analizar aspectos como el grado de evasión de las salvaguardas del modelo, las capacidades que quedan expuestas tras un jailbreak y las consecuencias prácticas derivadas de la vulnerabilidad.

Las conversaciones están siendo lideradas por Sarah Heck, responsable de políticas públicas de Anthropic, y Tom Brown, cofundador de la compañía.

Desde la perspectiva de la industria, uno de los consensos emergentes es que ningún modelo de IA puede ser completamente inmune a intentos de manipulación o ataques. Por ello, varias empresas tecnológicas han defendido la necesidad de establecer criterios objetivos para medir riesgos en lugar de exigir niveles absolutos de seguridad imposibles de alcanzar.

Las negociaciones vuelven a encarrilarse

Aunque las restricciones sobre Fable 5 y Mythos 5 siguen vigentes, el paso hacia la creación de estándares técnicos es interpretado como una señal de avance en las conversaciones.

Según Politico, las negociaciones estuvieron cerca de romperse completamente la semana pasada, cuando Anthropic rechazó solicitudes para retirar voluntariamente uno de sus modelos del mercado.

Sin embargo, durante el fin de semana se produjeron varias conversaciones entre altos funcionarios de la administración y directivos de la empresa. Entre los participantes estuvieron Tom Brown, el secretario de Comercio Howard Lutnick y el director nacional de ciberseguridad Sean Cairncross.

Posteriormente, Anthropic envió investigadores y especialistas en seguridad a Washington para mantener reuniones presenciales con funcionarios gubernamentales.

Hacia una regulación más técnica de la IA

El caso refleja cómo los gobiernos comienzan a enfrentarse a desafíos regulatorios inéditos a medida que los modelos de IA adquieren capacidades cada vez más avanzadas.

Más allá de este episodio específico, la discusión apunta a una cuestión de fondo: quién decide cuándo una vulnerabilidad es suficientemente grave como para limitar la distribución de una tecnología y bajo qué criterios técnicos debe tomarse esa decisión.

Para la Casa Blanca y para las principales empresas del sector, establecer esas reglas podría convertirse en uno de los pilares fundamentales de la próxima etapa de regulación de la inteligencia artificial.

Imagen original de DiarioBitcoin, creada con inteligencia artificial, de uso libre, licenciada bajo Dominio Público.

Este artículo fue escrito por un redactor de contenido de IA y revisado por un editor humano para garantizar calidad y precisión.


ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín

Artículos Relacionados