Fathom respaldó la hoja de ruta de California para vigilar la IA avanzada, pero pidió convertir las evaluaciones independientes de riesgos en obligaciones legales y ponerlas en marcha con rapidez.
***
- El plan recomienda que grandes desarrolladores de IA fronteriza se sometan a revisiones continuas de evaluadores independientes con licencia estatal.
- California definiría por ley los resultados de seguridad, mientras los evaluadores actualizarían las pruebas técnicas y reportarían sus hallazgos al estado.
- Fathom propone aplicar los mandatos por fases, según la capacidad disponible, y mantener la ejecución de sanciones bajo autoridad estatal.
California debate cómo convertir la supervisión de la IA en una obligación
Fathom pidió a California que avance con rapidez hacia evaluaciones independientes y obligatorias de los riesgos catastróficos asociados con la inteligencia artificial fronteriza. El grupo de gobernanza sostuvo que la hoja de ruta presentada por el gobernador Gavin Newsom recoge varias de sus recomendaciones, aunque todavía hace falta convertirlas en deberes vinculantes mediante legislación y reglas de aplicación.
La propuesta pone el foco en quién examinaría los modelos avanzados, qué estándares utilizaría y cómo respondería el gobierno ante un riesgo identificado. Andrew Freedman, CEO y cofundador de Fathom, describió el informe como un plan concreto para llevar a la práctica la supervisión independiente y pidió avanzar con rapidez, sin dejar de resolver cuestiones sobre costos, calendario y competencias.
De revisiones voluntarias a evaluaciones independientes
El modelo defendido por Fathom asigna las evaluaciones a organizaciones independientes de verificación, conocidas como IVO por sus siglas en inglés. Estos evaluadores externos revisarían modelos y sistemas de IA en busca de riesgos, en lugar de dejar la valoración exclusivamente en manos de cada desarrollador o depender de compromisos voluntarios.
El informe de la Agencia de Operaciones Gubernamentales de California, fechado el 16 de noviembre de 2026 y hecho público dos días después, recomienda cambios legislativos, pero no impone requisitos por sí mismo. Su propuesta central exigiría revisiones continuas para cada gran desarrollador de IA fronteriza y, de aprobarse, sustituiría el esquema voluntario que actualmente se aplica a esos actores.
GovOps tendría la responsabilidad de otorgar licencias a las organizaciones evaluadoras y supervisar su trabajo de manera continua. La agencia podría retirar una licencia si determina que el evaluador no demuestra suficiente experiencia, independencia o rigor, condiciones que buscan evitar que una auditoría exista solo en el papel o dependa demasiado de los intereses de la empresa examinada.
Los IVO presentarían al estado evaluaciones sin censura, y las autoridades decidirían si corresponde exigir medidas correctivas después de dialogar con el desarrollador. Esa división importa porque el evaluador aportaría hallazgos técnicos, pero la decisión sobre una respuesta pública seguiría en manos del gobierno, en vez de convertir automáticamente cada informe en una orden ejecutable.
Estándares legales y pruebas que puedan actualizarse
La propuesta distingue entre fijar el objetivo de seguridad y definir la manera técnica de medirlo. California establecería en la ley los resultados aceptables, mientras que las organizaciones independientes podrían desarrollar y actualizar los métodos de prueba conforme cambien los modelos y las capacidades de la IA.
El estándar sugerido pregunta si un modelo fronterizo tiene pocas probabilidades de aumentar el riesgo de daño catastrófico por encima del nivel que existiría sin ese modelo. También contempla si los beneficios anticipados superan el riesgo residual, de modo que la decisión no dependa solo de identificar peligros, sino de valorar el balance que queda después de aplicar salvaguardias.
Este diseño intenta evitar dos problemas opuestos: una regla demasiado rígida para seguir el ritmo de la tecnología y una supervisión tan flexible que no defina con claridad qué debe cumplir un desarrollador. La ley fijaría el umbral y el propósito, mientras los evaluadores podrían revisar las pruebas y técnicas utilizadas sin alterar por su cuenta el resultado exigido por el estado.
El paquete de GovOps también incluye estándares básicos, una posible autoridad de apagado de emergencia y límites potenciales a la mejora recursiva automática. La hoja de ruta se apoya en los marcos de la SB 813 y la AB 1405, dos leyes firmadas en septiembre de 2026 que establecen un marco estatal para la verificación independiente y los auditores de IA. Las recomendaciones de GovOps plantean medidas adicionales que todavía requerirían legislación o reglas de aplicación para convertirse en obligaciones.
Riesgos de la mejora automatizada y despliegue por fases
La mejora recursiva automática, o RSI, describe el punto en que el desarrollo de sistemas de IA automatizado se vuelve autosostenible. El informe plantea que los IVO verifiquen inicialmente las métricas de investigación y desarrollo automatizado y evalúen cómo pueden aumentar los riesgos a medida que crecen esas capacidades.
El memorándum de Fathom propone además vigilar el uso interno y externo de estas herramientas mediante umbrales de capacidad registrados con antelación. Al alcanzarse uno de esos umbrales, el desarrollador notificaría al estado y detendría una mayor expansión interna mientras los evaluadores realizan una nueva revisión; la pausa propuesta no equivale a una prohibición general de desarrollar IA.
Para poner en marcha las obligaciones, Fathom plantea una implementación gradual vinculada a la capacidad y experiencia disponibles entre los evaluadores designados. El grupo argumenta que una expectativa confiable de trabajo obligatorio podría atraer capital y talento para ampliar la verificación independiente, en vez de esperar a que exista un mercado plenamente desarrollado para cada tipo de riesgo antes de iniciar la supervisión.
En la primera etapa, el estado asignaría un evaluador de un grupo previamente designado y el desarrollador pagaría directamente por el trabajo, calculado sobre tiempo y materiales con tarifas de referencia estatal. En fases posteriores, los desarrolladores tendrían más posibilidades de elegir a su evaluador a medida que crezca el grupo, aunque el estado conservaría facultades para vetar selecciones, exigir rotación, limitar la concentración, nombrar evaluadores adicionales y retirar certificaciones.
Acceso, independencia y aplicación estatal
La propuesta también contempla evaluadores integrados con acceso continuo a registros, personal y sistemas relevantes de las empresas examinadas. Ese acceso podría incluir presencia física en puntos de decisión definidos, y estaría acompañado por protecciones legales de confidencialidad y contra represalias para respaldar el trabajo independiente.
Los pagos no dependerían del resultado de la evaluación, un rasgo que busca reducir incentivos para producir conclusiones favorables al cliente. Aun así, la independencia no descansaría únicamente en la forma de pago: la supervisión de licencias, la rotación, los límites a la concentración y la facultad de descertificar evaluadores formarían parte de los controles propuestos.
La aplicación coercitiva seguiría en manos del estado. El fiscal general podría solicitar órdenes judiciales y multas civiles, mientras que los IVO identificarían problemas, recomendarían medidas correctivas y remitirían riesgos inminentes, sin pedir directamente órdenes judiciales ni convertir sus propios hallazgos en sanciones automáticas.
Fathom señaló que siguen abiertas preguntas sobre la legislación, la elaboración de reglas, la relación entre autoridad estatal y federal, la logística, los plazos y los costos. La prueba para la Legislatura y GovOps será convertir las recomendaciones en obligaciones mientras desarrollan una cantidad suficiente de evaluadores licenciados y mantienen una capacidad estatal creíble para actuar; según el diseño, ambos procesos dependen uno del otro.
ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.
Suscríbete a nuestro boletín
Artículos Relacionados
AltCoins
Bittensor (TAO) sube con volumen creciente, pero la tendencia aún presiona el precio — 19 de noviembre de 2026
Hyperscalers
AWS habilita el ajuste completo de modelos en SageMaker, pero advierte sobre el olvido catastrófico
IA
Gemini 4 Neon reduce el costo por tarea, pero su ventaja de inteligencia es modesta
Empresas
