Por Canuto  

Anthropic presentó discretamente a legisladores de Estados Unidos un borrador confidencial que permitiría al Departamento de Comercio pedir a un juez federal que detenga despliegues de IA ante riesgos catastróficos previsibles e inminentes. La propuesta fija umbrales de daños, exige evaluaciones externas y, según la cobertura, toma como referencia una ley de California.
***

  • El borrador permitiría solicitar una orden judicial cuando los daños potenciales superen USD 1.000 millones o pudieran causar la muerte o lesiones graves a más de 50 personas.
  • La propuesta contempla riesgos vinculados con armas biológicas, pérdida de control del modelo y ciberataques, además de evaluaciones independientes y reportes en 72 horas.
  • Solo el Departamento de Comercio podría pedir la intervención de un juez federal; el documento es confidencial y todavía no se ha presentado formalmente como proyecto de ley.

Anthropic propone una vía judicial para frenar despliegues de IA ante riesgos extremos

Representantes de Anthropic presentaron discretamente a legisladores de Estados Unidos un borrador confidencial para establecer reglas federales sobre la seguridad de la inteligencia artificial fronteriza. Según Politico, que obtuvo el documento, la propuesta permitiría al Departamento de Comercio solicitar a un juez federal que detenga el despliegue de un modelo ante un riesgo catastrófico previsible e inminente.

La información fue publicada el 16 de octubre de 2026. El documento no equivale a una iniciativa formal presentada ante el Congreso: se trata de un borrador confidencial compartido con legisladores. Su diseño contempla umbrales cuantificables, evaluaciones independientes y una vía judicial para solicitar una intervención de emergencia.

Umbrales altos para una intervención excepcional

El borrador permitiría activar la vía de emergencia si los daños potenciales de un modelo superan USD 1.000 millones, o si su uso pudiera causar la muerte o lesiones graves a más de 50 personas. La propuesta establece esas cifras como condiciones para que el gobierno pueda actuar ante una amenaza de gran escala.

La iniciativa contempla tres ámbitos de peligro: armas biológicas, pérdida de control de un desarrollador sobre su propio modelo y ciberataques. El texto plantea estos escenarios como riesgos capaces de producir daños catastróficos. La cobertura del documento no detalla cómo se calcularía cada riesgo ni qué evidencia específica tendría que respaldar una solicitud judicial.

Los umbrales delimitan el alcance de la autoridad propuesta: no se describe una facultad para detener un sistema por cualquier error o perjuicio, sino una medida de emergencia vinculada con consecuencias de gran magnitud. El borrador tampoco especifica qué otras vías de intervención podrían aplicarse ante daños que no alcancen esos límites.

Evaluaciones externas y reportes en 72 horas

Las pruebas constituyen otro componente central de la propuesta. El borrador exige que los modelos avanzados se sometan a evaluaciones independientes y revisiones continuas, de modo que la identificación de riesgos no dependa únicamente de los equipos internos de las compañías desarrolladoras.

Los evaluadores externos tendrían que registrarse ante el Departamento de Comercio y realizar revisiones periódicas de los modelos. Además, no podrían recibir una remuneración vinculada con el resultado de sus evaluaciones, una condición que busca separar el pago de la conclusión de la auditoría.

La propuesta también establece que los riesgos emergentes deben reportarse al Departamento de Comercio dentro de las 72 horas siguientes. El documento no especifica qué entidad tendría que comunicar cada riesgo ni qué sanciones se aplicarían ante un incumplimiento.

Para las compañías que desarrollen modelos fronterizos, estas condiciones podrían traducirse en gastos adicionales y nuevos procesos de cumplimiento. Según la cobertura de Politico, las empresas probablemente necesitarían equipos de seguridad, sistemas de reporte y vínculos con evaluadores registrados. Los chatbots menos avanzados quedarían, en principio, fuera del foco principal del borrador.

Comercio pediría la orden y un juez decidiría

El Departamento de Comercio sería la única agencia federal autorizada a solicitar ante un juez una orden para detener el despliegue de un modelo. El borrador impediría que otras agencias reclamaran esa misma facultad.

La propuesta no describe una suspensión unilateral ordenada por el Departamento de Comercio. La agencia podría presentar el caso ante un juez federal y solicitar una medida; la decisión de concederla correspondería al tribunal, de acuerdo con el mecanismo planteado en el documento.

La información divulgada no precisa cuánto tiempo tendría un juez para resolver, qué estándar probatorio aplicaría ni qué recursos podrían presentar las empresas afectadas. Por tanto, esos detalles no están definidos en el borrador conocido.

Una propuesta nacional inspirada en California

Según la cobertura del borrador, la propuesta refleja aspectos de la SB 53 de California, una ley estatal que el gobernador Gavin Newsom firmó el 29 de septiembre de 2025. La información disponible no establece que ambos textos sean idénticos ni detalla qué disposiciones estatales conservaría o modificaría el proyecto federal.

Anthropic publicó en junio de 2026 su Marco de IA Avanzada, que expone propuestas sobre la respuesta de los gobiernos a los riesgos más serios de la IA fronteriza. El borrador confidencial presentado a legisladores concreta algunas ideas en un posible texto legislativo, con condiciones para las pruebas, la notificación de riesgos y una eventual solicitud judicial.

Si el Congreso adoptara un esquema de evaluaciones independientes, podría surgir una función obligatoria para entidades externas registradas ante el Departamento de Comercio. El borrador no permite determinar cuántos evaluadores participarían, cómo se financiarían sus operaciones ni qué estándares técnicos tendrían que cumplir.

Por ahora, la iniciativa es un documento confidencial compartido con legisladores, no una norma vigente ni un proyecto de ley presentado formalmente. Su evolución dependerá de que avance hacia un texto público y de las decisiones legislativas posteriores. Hasta entonces, los umbrales, las obligaciones de evaluación y la potestad judicial describen el planteamiento de Anthropic, no reglas que ya rijan a la industria.


ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín

Artículos Relacionados