Por Canuto  

Un borrador federal de Anthropic busca regular la IA, pero críticos sostienen que las auditorías sin estándares y las condiciones para frenar modelos peligrosos podrían debilitar la supervisión y desplazar leyes estatales.
***

  • El borrador circulado entre legisladores exige evaluaciones externas, pero no fija estándares ni licencias para quienes auditen los modelos.
  • La propuesta sometería los bloqueos de modelos a un proceso judicial; Reuters informó que solo se permitirían ante un riesgo previsible e inminente superior a US$1.000 millones.
  • Defensores de seguridad cuestionan que el plan desplace ciertas leyes estatales sin permitir que las normas federales evolucionen con rapidez.

Anthropic enfrenta críticas por un proyecto de ley de IA que, según detractores, debilitaría la supervisión

Un borrador federal impulsado por la empresa propone evaluaciones externas y nuevas reglas para la IA, pero sus críticos advierten que podría hacer más difícil detener modelos peligrosos y desplazar leyes estatales.

Anthropic ha construido parte de su identidad pública alrededor de la seguridad de la inteligencia artificial y de la idea de que una empresa líder puede influir en Washington para promover reglas capaces de reducir riesgos graves. Sin embargo, un borrador de discusión que la compañía circuló entre legisladores generó cuestionamientos sobre la distancia entre ese compromiso declarado y las protecciones que ofrece su propuesta regulatoria.

Politico publicó el borrador el viernes 16 de octubre. Un análisis de Transformer News fechado el 19 de octubre de 2026 lo comparó con la Ley FRONTIER, impulsada por los representantes Obernolte y Trahan, y sostuvo que la propuesta de Anthropic podría volver legalmente más difícil prevenir el lanzamiento de un modelo peligroso bajo el marco descrito.

Auditorías externas sin estándares comunes

El borrador coincide con la Ley FRONTIER en exigir que evaluadores externos analicen los modelos y las prácticas de las empresas de IA en busca de riesgos catastróficos. La diferencia señalada por los críticos es que el proyecto de Anthropic no establece estándares ni requisitos de licencia para esos evaluadores, por lo que podrían autocertificarse sin un marco uniforme de competencia o independencia.

Charlie Bullock, de LawAI, advirtió que esa ausencia de reglas podría generar una competencia entre auditores para ofrecer las revisiones menos molestas y más baratas. Su objeción apunta a un incentivo concreto: si las compañías pueden elegir entre evaluadores que compiten por sus contratos, una auditoría rigurosa podría quedar en desventaja frente a otra que imponga menos exigencias.

El borrador también incluye disposiciones sobre protocolos de seguridad de las empresas y sobre cómo gestionar fallas de contención y riesgos de investigación y desarrollo de IA automatizada. El análisis considera que esas medidas son mejoras frente a la Ley FRONTIER, aunque sostiene que pierden fuerza ante otras cláusulas que, a su juicio, reducen las posibilidades de intervenir ante un modelo que plantee un peligro grave.

La discusión sobre los evaluadores importa porque una auditoría solo puede servir como herramienta de supervisión si ofrece información confiable y comparable. Sin requisitos públicos para quienes realizan esas evaluaciones, críticos como Bullock temen que el mecanismo dependa más de la selección de cada empresa que de un estándar verificable para todo el sector.

Frenar un modelo exigiría acudir a los tribunales

La propuesta asigna al Departamento de Comercio la responsabilidad de actuar si una empresa pretende lanzar un modelo que represente un riesgo. En vez de permitir que la agencia ordene directamente detenerlo, el borrador exigiría que solicite la intervención de un tribunal federal y presente un caso detallado para justificar el bloqueo.

Reuters informó que el proyecto permitiría al gobierno bloquear el lanzamiento o uso de un modelo solo si este representa un riesgo previsible e inminente superior a US$1.000 millones. El caso tendría que sostenerse al margen de lo que hubiera concluido un evaluador independiente, y el tribunal resolvería cada cuestión sin deferencia al Departamento de Comercio ni a los propios evaluadores. Además, tendría que considerar el daño que una orden de bloqueo causaría al desarrollador, a los usuarios y al público, un equilibrio que, según los críticos, podría inclinar el proceso contra la intervención.

Nathan Calvin, de Encode, cuestionó que el texto no ordene al tribunal considerar también el daño público que podría producirse si el modelo no se bloquea. Calvin dijo que la propuesta le había provocado una reacción de enojo visceral, y su crítica se centra en la asimetría: el proyecto identifica consecuencias de restringir el desarrollo, pero no establece una obligación equivalente de valorar los riesgos de permitirlo.

El diseño no significa que un tribunal necesariamente autorizaría un modelo peligroso ni que el Departamento de Comercio carecería de toda capacidad para pedir una medida. La preocupación expresada por los detractores es más específica: la agencia tendría que superar una barrera procesal exigente y convencer a un juez bajo criterios que, según ellos, no ponderan con el mismo énfasis los costos de la inacción.

Preeminencia estatal y dudas sobre la capacidad de adaptación

El borrador también aborda la preeminencia, es decir, la posibilidad de que una norma federal desplace leyes aprobadas por los estados. Como la Ley FRONTIER, la propuesta de Anthropic dejaría sin efecto varias leyes estatales dirigidas a la IA fronteriza, incluidas la SB 53 de California, la RAISE de Nueva York y la SB 315 de Illinois, mientras excluye expresamente las normas de seguridad infantil y otras disposiciones.

Sin embargo, la propuesta iría más lejos al impedir que legislaturas o tribunales estatales suspendan un modelo por motivos de riesgo catastrófico. Calvin sostuvo que esa cláusula probablemente haría más difícil obtener, bajo la legislación vigente, una orden judicial para bloquear o restringir el desarrollo de modelos fronterizos; se trata de una interpretación crítica del alcance legal del borrador, no de una decisión judicial.

La inquietud aumenta porque el texto no permitiría que el Departamento de Comercio establezca posteriormente estándares para los evaluadores ni determine qué cuenta como un modelo seguro. Si las normas estatales quedan desplazadas y el marco federal no puede actualizarse mediante la agencia, la vía principal para introducir cambios sería una nueva acción del Congreso.

Nat Purser, de AVERI, resumió esa objeción al señalar que, si se desplazan muchas leyes estatales de seguridad, el régimen federal debería poder evolucionar con el tiempo. La preocupación cobra relieve dentro del propio debate descrito en el análisis: Jack Clark, cofundador de Anthropic, dijo recientemente que cree que la mejora recursiva completa podría alcanzarse el próximo año, una previsión que refuerza la pregunta sobre si un marco rígido podría adaptarse a cambios rápidos.

Una disputa sobre la promesa de seguridad de Anthropic

El momento político también forma parte de la controversia. La Ley FRONTIER se presentó en julio, después de que circulara un borrador de discusión en junio, cuando la seguridad de la IA tenía menos peso político, según el análisis. Desde entonces, el texto menciona incidentes de IA fuera de control y advertencias de empleados sobre posibles desastres, además de anticipar leyes estatales más estrictas.

Para los críticos, esa evolución hacía esperar una propuesta federal más robusta, no una versión que consideran más débil. La lectura del análisis es que Anthropic podría estar concentrándose en protegerse frente a la acción de un poder ejecutivo imprevisible, una interpretación que Zvi Mowshowitz formuló como el temor de la compañía a que el gobierno aplique reglas contra ella por encima de su preocupación por la capacidad de hacerlas cumplir en todo el sector.

Tras las críticas al borrador, Anthony Cimino, responsable de asuntos federales de Anthropic, reconoció que el lenguaje sobre preeminencia no era suficientemente preciso y dijo que se revisaría. También sugirió que algunos de los demás problemas recibirían respuesta mediante futuras propuestas de política, aunque el análisis no detalla cuáles serían esas medidas ni cuándo se presentarían.

La reacción refleja un debate más amplio sobre qué debe contener una regulación federal cuando desplaza normas locales: requisitos auditables, capacidad de intervención y mecanismos para actualizar las reglas ante cambios tecnológicos. El borrador incluye disposiciones de seguridad que sus detractores consideran valiosas, pero sus principales objeciones se dirigen a la falta de estándares para los evaluadores, el proceso para frenar modelos y las limitaciones para adaptar el régimen. Por ahora, Anthropic indicó que revisará parte de su lenguaje, sin que el material citado confirme cambios ya incorporados.


ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín

Artículos Relacionados