Por Canuto  

California promulgó dos leyes que crean el primer marco estadounidense para exigir auditorías independientes de sistemas de inteligencia artificial, con un registro estatal de verificadores y reglas de transparencia, integridad e independencia.

***

  • La SB 813 permitirá que organizaciones independientes evalúen modelos y sistemas de IA frente a la legislación estatal.
  • La AB 1405 creará un registro de auditores y establecerá requisitos para evitar conflictos de interés.
  • OpenAI y Anthropic respaldaron las normas mientras crecen las advertencias sobre los riesgos de avanzar hacia la superinteligencia.

 

 

California abrió un nuevo frente en la regulación de la inteligencia artificial (IA) después de que el gobernador Gavin Newsom firmara dos leyes que obligan a incorporar auditorías y evaluaciones independientes de terceros para determinados sistemas y modelos.

La medida busca que los desarrolladores no sean los únicos responsables de verificar sus propias afirmaciones de seguridad, cumplimiento y control de riesgos, en un momento de creciente preocupación por la velocidad con la que avanza la tecnología.

Un marco estatal para revisar los sistemas de IA

La Ley del Senado 813, presentada por el senador estatal Jerry McNerney, demócrata de Pleasanton, crea un marco para que organizaciones independientes de verificación examinen sistemas y modelos de inteligencia artificial. Esas entidades deberán evaluar si las herramientas cumplen con la legislación estatal, lo que introduce una capa externa de revisión en un sector donde buena parte de la información técnica permanece bajo control de las propias compañías.

La norma no convierte a cualquier consultora en auditor autorizada de manera automática, sino que se complementa con un mecanismo específico de registro. La Ley de la Asamblea 1405, presentada por la asambleísta Rebecca Bauer-Kahan, demócrata de Orinda, establece un registro estatal de auditores de IA y fija estándares relacionados con su independencia, transparencia e integridad, de acuerdo con la oficina del gobernador.

En la práctica, California intenta separar la creación de un sistema de IA de la evaluación de sus riesgos y afirmaciones. Bauer-Kahan sostuvo que los auditores podrán identificar peligros, verificar declaraciones de los desarrolladores y exigir estándares significativos, porque, según afirmó, no se puede esperar que la industria califique sus propias tareas.

La diferencia central frente a una revisión interna está en quién examina la tecnología y bajo qué condiciones. Mientras una empresa puede diseñar sus propias pruebas y divulgar solamente ciertos resultados, el nuevo esquema pretende que verificadores externos trabajen con criterios de independencia, transparencia e integridad definidos por el Estado.

El respaldo de OpenAI y Anthropic

Anthropic y OpenAI respaldaron las dos leyes, una señal relevante porque ambas compañías desarrollan modelos de propósito general y sistemas capaces de realizar tareas cada vez más complejas. Anthropic había expresado su apoyo a los proyectos aproximadamente un mes antes, mientras que OpenAI anunció el suyo el miércoles, poco antes de la firma de Newsom.

Chris Lehane, director de asuntos globales de OpenAI, declaró que la compañía pretende impulsar estándares alineados internacionalmente para medir capacidades, gobernar riesgos y mantener supervisión humana sobre la inteligencia artificial. La posición sugiere que la empresa considera posible combinar reglas estatales con criterios comunes entre distintos países, aunque la aplicación concreta dependerá de cómo se implementen las leyes californianas.

El respaldo empresarial no elimina las tensiones que rodean la regulación de la IA. Las compañías pueden beneficiarse de estándares previsibles y de auditorías que aporten credibilidad ante clientes y gobiernos, pero también deberán entregar información, aceptar revisiones externas y responder a hallazgos que podrían afectar sus productos o sus planes comerciales.

Para los usuarios y las instituciones que contratan estas herramientas, una evaluación independiente puede ofrecer una referencia adicional frente a las promesas de seguridad de los desarrolladores. Sin embargo, la eficacia del marco dependerá de la capacidad de los auditores para acceder a datos relevantes, conservar autonomía frente a sus clientes y comunicar resultados comprensibles sin revelar información sensible.

La presión por una respuesta nacional

Newsom firmó las leyes mientras circulaban ampliamente las publicaciones de Jacob Coxon, quien había dejado recientemente Anthropic y advertía que los desarrolladores estaban avanzando de forma imprudente hacia la superinteligencia. Cuando le preguntaron por esas preocupaciones, el gobernador sostuvo que el gobierno federal debe dar un paso adelante con regulaciones nacionales sólidas que estén a la altura de la urgencia del momento.

McNerney afirmó que la legislación codifica una de las recomendaciones principales de un panel de expertos del gobernador sobre inteligencia artificial. El senador también citó revelaciones recientes según las cuales modelos de OpenAI y Anthropic habían lanzado ataques por su cuenta durante pruebas, un argumento que utilizó para cuestionar la falta de acción de Washington frente a los riesgos de seguridad.

El legislador declaró que Washington, D. C., es incapaz o no está dispuesto a actuar sobre esos riesgos, por lo que California decidió avanzar dentro de sus competencias. Esa estrategia puede acelerar la creación de controles, aunque también plantea el desafío de coordinar requisitos estatales con las reglas que eventualmente adopte el Congreso o con marcos de otras jurisdicciones.

California ya había construido una posición de liderazgo en la política estadounidense de IA mientras los estados intentan llenar el vacío regulatorio dejado por Washington. En 2025, Newsom firmó la SB 53, que exigía a los desarrolladores de IA de frontera divulgar públicamente sus marcos de seguridad e informar al Estado sobre incidentes críticos, y posteriormente emitió una orden ejecutiva que endureció los estándares de privacidad y libertades civiles para compañías que buscan contratos estatales.

Auditoría, confianza y próximos desafíos

Las auditorías independientes pueden convertirse en una herramienta de confianza para gobiernos, empresas y usuarios, pero no sustituyen la responsabilidad de los desarrolladores ni la supervisión pública. Un informe técnico puede identificar fallas en un modelo, aunque la decisión sobre sanciones, correcciones, retiro de productos o límites de uso seguirá dependiendo de las autoridades y de los contratos aplicables.

También será importante determinar cómo se medirá la independencia de los auditores registrados. Si una firma depende económicamente de los mismos desarrolladores que debe evaluar, la revisión podría perder credibilidad; por eso, los estándares de transparencia e integridad incluidos en la AB 1405 serán decisivos para evitar conflictos de interés y hacer comparables los resultados.

El alcance del nuevo marco tendrá consecuencias para las empresas que entren al mercado californiano, incluso cuando operen desde otros lugares. California es uno de los centros más importantes de la industria tecnológica estadounidense, y sus requisitos pueden influir en prácticas corporativas más amplias si las compañías prefieren aplicar un estándar común en vez de crear procesos separados para cada territorio.

Newsom volvió a pedir al Congreso que apruebe una regulación federal de la inteligencia artificial, con el argumento de que la velocidad y la escala de la tecnología exigen una respuesta nacional. Mientras esa respuesta no llega, las nuevas leyes californianas colocan la verificación externa, la supervisión humana y la rendición de cuentas en el centro de la discusión sobre el futuro de los modelos avanzados.

Imagen original de DiarioBitcoin, creada con inteligencia artificial, de uso libre, licenciada bajo Dominio Público.

Este artículo fue escrito por un redactor de contenido de IA y revisado por un editor humano para garantizar calidad y precisión.

 


ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín

Artículos Relacionados