Por Canuto  

Anthropic anunció que revisará partes de un borrador de ley federal de seguridad de IA tras recibir críticas por los límites que impondría a la intervención del Gobierno y por la falta de estándares obligatorios para auditores independientes.
***

  • El borrador permitiría bloquear modelos solo ante riesgos inminentes y bajo umbrales elevados de daño, con intervención de un tribunal federal.
  • Expertos y legisladores cuestionaron la ausencia de licencias para evaluadores y el posible debilitamiento de las competencias estatales.
  • Anthropic prometió ajustar la redacción sobre la preeminencia federal y presentar propuestas para fortalecer la evaluación independiente.

Anthropic reescribirá parte de su propuesta de seguridad de IA tras las críticas

Sumario: La empresa modificará el lenguaje de su borrador legislativo luego de que defensores de la seguridad cuestionaran sus umbrales de intervención, la supervisión de los auditores y el posible desplazamiento de normas estatales.

Un borrador bajo presión por sus límites de intervención

Anthropic informó a legisladores estadounidenses que reescribirá una parte de su borrador de ley federal de seguridad de inteligencia artificial, que había circulado en el Capitolio y se filtró a la prensa. El documento provocó críticas de especialistas y grupos de defensa, quienes sostienen que su mecanismo para detener modelos peligrosos sería más débil que el incluido en otra iniciativa legislativa que ya está ante el Congreso. El debate resulta especialmente delicado para una compañía que ha construido parte de su imagen pública defendiendo reglas estrictas para la IA avanzada.

El texto permitiría al Gobierno bloquear el lanzamiento o el uso de un modelo solo bajo condiciones acotadas: el riesgo tendría que ser previsible e inminente y causar más de USD $1.000 millones en daños, o la muerte o lesiones graves de más de 50 personas. Además, el peligro tendría que derivarse de un arma biológica, de un modelo que escape al control de su desarrollador o de un ciberataque, según los detalles publicados por Politico. Los críticos cuestionan que esos requisitos puedan dejar fuera amenazas graves que no encajen en esas categorías o no alcancen los umbrales fijados.

La propuesta encomienda al Departamento de Comercio pedir a un tribunal federal que bloquee un modelo y presentar allí sus argumentos. También impediría que otras agencias o funcionarios suspendan por su cuenta el lanzamiento o uso de un sistema. Para los críticos, ese diseño restringe el margen de respuesta de las autoridades y eleva la carga institucional para frenar un modelo, incluso cuando surjan preocupaciones de seguridad que requieran una actuación urgente.

El borrador también anticiparía algunas leyes estatales de IA sobre divulgación pública, evaluaciones de terceros y notificación de incidentes, aunque dejaría intactas las normas de seguridad infantil y derechos civiles. Propone que los evaluadores independientes se registren ante Comercio y revisen modelos de los laboratorios; las empresas podrían pagar por esas evaluaciones siempre que el pago no dependa del resultado. Si un evaluador detecta un riesgo inminente, tendría que notificarlo al Departamento en un plazo de 72 horas.

La comparación con FRONTIER y las críticas a los auditores

Una de las comparaciones centrales es con la FRONTIER Act, iniciativa bipartidista presentada en julio por los representantes Jay Obernolte y Lori Trahan. El borrador de Anthropic ha recibido críticas por no imponer estándares ni licencias para los evaluadores independientes, que podrían autocertificarse. En un análisis para Transformer, Shakeel Hashim sostuvo que esa diferencia y las mayores dificultades para bloquear un modelo vuelven la propuesta menos robusta que el proyecto legislativo alternativo.

Charlie Bullock, de LawAI, advirtió que la ausencia de licencias podría alentar una competencia entre auditores basada en ofrecer revisiones menos exigentes a menor precio. Su preocupación apunta a un posible incentivo perverso: si los laboratorios pueden escoger entre evaluadores y pagarles directamente, aunque el pago no dependa formalmente de la conclusión, un sistema sin requisitos comunes podría premiar la laxitud. El borrador plantea el registro ante Comercio, pero sus críticos consideran que ese mecanismo no equivale a una licencia con estándares verificables.

Nathan Calvin, abogado general del grupo de defensa Encode, dijo que la propuesta le provocó una reacción de enojo y sostuvo que parecía impedir que tribunales estatales suspendieran modelos por motivos de seguridad. El senador estatal de California Scott Wiener, autor de la ley de IA de frontera de ese estado, afirmó que el texto no protege suficientemente la salud y la seguridad pública. También cuestionó que no establezca requisitos mínimos para los planes de seguridad ni para los auditores.

Wiener añadió que el borrador utiliza una definición de la ley de transparencia de California SB 53 para, en su opinión, vaciar los poderes de apagado de emergencia incluidos en la propuesta. Su objeción refleja una disputa sobre cuánto espacio debe conservar cada estado para intervenir mientras el Congreso debate un marco federal. El texto de Anthropic también anticiparía algunas disposiciones estatales, de modo que el alcance de esa preeminencia federal se convirtió en uno de los puntos más controvertidos de la iniciativa.

Anthropic promete cambios y defiende el propósito del marco

Anthony Cimino, responsable del equipo de asuntos federales de Anthropic, respondió a las críticas y reconoció que la redacción sobre la preeminencia federal no era suficientemente precisa. La empresa planea modificar ese lenguaje para que refleje mejor la intención de su Advanced AI Framework, un marco que, según Cimino, debería permitir que el Congreso desplace normas estatales de seguridad solo si aprueba un estándar federal sólido. También afirmó que esa preeminencia debe ser limitada y específica.

Sobre la posibilidad de bloquear modelos, Cimino explicó que el objetivo de Anthropic es permitir que Comercio solicite a un tribunal federal la suspensión de sistemas con capacidades peligrosas y salvaguardas insuficientes, apoyándose en evaluaciones independientes. Añadió que la empresa buscó un equilibrio, pero reconoció que el umbral no debería ser tan elevado como para impedir el uso de esa facultad cuando sea necesaria. La admisión responde directamente a la crítica de que el mecanismo propuesto podría existir en el papel sin servir en la práctica.

Cimino también señaló que el umbral de riesgo del borrador proviene de estándares existentes en la ley de California y que la compañía considera oportuno revisar si el estándar nacional puede ser más fuerte. En cuanto a las evaluaciones, Anthropic anunció que presentará propuestas específicas sobre requisitos para evaluadores independientes y que estudia opciones para evitar la llamada compra de evaluadores. La empresa dijo además que mantendrá un papel para los estados en asuntos como esos estándares y la capacidad de un laboratorio para apagar un modelo.

La respuesta de Anthropic describe el texto filtrado como una traducción legislativa de ideas que la compañía llevaba meses promoviendo y que compartió con un grupo reducido de oficinas del Congreso. Cimino aclaró que el borrador no contiene todo lo que la empresa querría ver aprobado y sostuvo que las observaciones recibidas son necesarias para fortalecer el marco. Un portavoz dijo a Politico que la propuesta recoge políticas sobre las que la compañía cree que el Congreso debería actuar.

La disputa también enfrenta seguridad y costos para empresas

Las objeciones al borrador no llegan únicamente desde defensores de reglas más estrictas. David Sacks, identificado en el reporte como zar de IA de la Casa Blanca, criticó el umbral de tamaño más bajo previsto por Anthropic y dijo que alcanzaría a gran parte de Silicon Valley, con posibles consecuencias para las startups. La controversia muestra que la discusión no se limita a cuánta protección debe ofrecer la regulación: también gira en torno a qué empresas quedarían sujetas a ella y qué obligaciones tendrían que asumir.

El texto de Anthropic define los modelos de frontera con un umbral de entrenamiento más bajo que el de la FRONTIER Act y la ley de California, por lo que abarcaría a más compañías. Ese alcance puede ampliar la supervisión a sistemas que otros marcos dejarían fuera, pero también es el punto que alimenta el temor de que firmas emergentes queden sometidas a requisitos diseñados para laboratorios con más recursos. La fuente no especifica costos de cumplimiento ni el número de empresas afectadas, por lo que esas consecuencias siguen siendo parte del debate, no un resultado cuantificado.

La propuesta aparece después de un verano complejo para Anthropic. La administración Trump utilizó controles de exportación para cerrar dos de los modelos más avanzados de la compañía a principios de ese año, mientras su director ejecutivo, Dario Amodei, defendió que la industria debía reducir la velocidad. A la vez, una serie de incidentes de IA fuera de control durante el verano incrementó la presión pública a favor de reglas más estrictas, según el reporte de The Next Web.

El borrador no es la única iniciativa que puede definir la respuesta federal: otras propuestas siguen en juego, entre ellas una del Senado que permitiría a Washington bloquear modelos. Por ahora, Anthropic promete revisar el texto y aportar nuevos requisitos para los auditores, pero no ha retirado su apuesta por una ley nacional. El resultado dependerá de cómo el Congreso concilie las facultades de emergencia, la supervisión independiente, la autoridad estatal y las preocupaciones empresariales sobre el alcance de la regulación.


ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín

Artículos Relacionados