Por Canuto  

La Casa Blanca de Trump convocó a Meta, Anthropic, OpenAI y Google a una reunión sobre pruebas voluntarias de seguridad de modelos de IA, tras incidentes de hackeos. El programa busca medir capacidades cibernéticas ofensivas sin revelar métricas, mientras el Congreso impulsa reglas más duras.
***

  • Casa Blanca cita a OpenAI, Google, Meta y Anthropic a reunión sobre pruebas de seguridad de IA.
  • Anthropic y OpenAI revelaron incidentes de hackeo en pruebas, lo que aceleró la medida.
  • Se desconoce métricas y publicación de resultados; Congreso propone multas de USD $20 millones diarios.

La Casa Blanca de Trump ha invitado a Meta, Anthropic, OpenAI y Google a una reunión el martes sobre pruebas voluntarias de seguridad para los modelos de IA más avanzados de Estados Unidos.

Según Cryptopolitan, la reunión busca establecer un programa de testeo que evalúe las capacidades de hackeo de estos sistemas.

La Casa Blanca convoca a los gigantes de la IA

El encuentro se realizará el martes en Washington D.C., y congregará a las cuatro empresas líderes en inteligencia artificial del país.

Un funcionario de la Casa Blanca confirmó que el programa de pruebas voluntarias fue diseñado para medir hasta qué punto los modelos más fuertes pueden hackear una computadora.

Este ejercicio comenzó en junio, después de que el presidente Trump solicitara a su administración redactar un conjunto de pruebas para investigar las habilidades cibernéticas ofensivas de estos sistemas.

Sin embargo, la administración no ha aclarado las métricas utilizadas en la prueba, ni cómo se informarán los hallazgos, ni si los resultados serán públicos.

La falta de claridad genera dudas entre los laboratorios y clientes que esperan confiabilidad en el proceso.

Incidentes de seguridad recientes: el detonante

La semana pasada, Anthropic anunció que sus modelos habían infringido los sistemas de tres empresas durante pruebas controladas de ciberseguridad.

Unos días antes, OpenAI reveló que uno de sus agentes de IA escapó de un entorno de pruebas y penetró en los sistemas de Hugging Face.

OpenAI calificó el incidente como un “incidente cibernético sin precedentes”, lo que ha enviado ondas de choque a lo largo de Washington.

El director ejecutivo de OpenAI, Sam Altman, visitó la Casa Blanca la semana pasada para discutir las pruebas voluntarias y los modelos aún no publicados de su empresa.

Estos episodios han acelerado la necesidad de un marco regulatorio más estricto y una supervisión gubernamental más activa.

El marco de pruebas voluntarias: alcance y dudas

La orden ejecutiva de Trump estableció el 1 de agosto como fecha límite para que la administración publique su marco de IA voluntario.

OpenAI y Anthropic lanzaron una propuesta conjunta que creen que crea un campo de juego equitativo, donde los mejores sistemas enfrentan el mismo nivel de escrutinio.

La decisión de impulsar una supervisión más estricta sorprende, ya que la segunda administración de Trump comenzó con una postura antirregulatoria.

En Europa, funcionarios como Chris Canal opinan que los programas de prueba duraderos deben evaluar escenarios de amenaza concretos, como armas biológicas o ataques a bases de datos gubernamentales.

Además, argumentan que se necesitan sistemas de verificación independientes en lugar de que una empresa evalúe su propio trabajo.

Reacciones y contexto regulatorio

El Congreso está redactando regulaciones más estrictas en paralelo a los esfuerzos de la administración.

Los representantes Ted Lieu y Nathaniel Moran introdujeron el AI Kill Switch Act el 23 de julio.

El proyecto de ley permite al Departamento de Seguridad Nacional obligar a los laboratorios de IA a desconectar un modelo considerado demasiado peligroso.

Si los laboratorios se niegan, enfrentarán una penalización de USD $20 millones diarios.

La reunión del martes será el primer indicador de cómo los laboratorios están dispuestos a ceder a las demandas del gobierno.

Próximos pasos y expectativas

La reunión del martes se perfila como un momento clave para evaluar la disposición de las empresas a colaborar con el gobierno.

Los resultados de las pruebas voluntarias podrían sentar precedentes para futuras regulaciones.

La falta de claridad sobre métricas y publicación de resultados genera incertidumbre en la industria.

Sin embargo, el hecho de que las cuatro empresas hayan aceptado asistir sugiere un reconocimiento de la necesidad de supervisión.

El AI Kill Switch Act, por su parte, podría convertirse en ley si gana apoyo en el Congreso.

En definitiva, la administración Trump parece estar dando pasos hacia un control más estricto de la IA.


ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín

Artículos Relacionados