Un comité parlamentario británico propone que un regulador independiente pueda frenar entrenamientos, pruebas y lanzamientos de IA cuando los riesgos no puedan controlarse. La propuesta también apunta a exigir reportes de incidentes y proteger a quienes alerten sobre problemas de seguridad.
***
- El comité reclama una ley que permita detener desarrollos, despliegues o servicios de IA considerados de alto riesgo.
- La propuesta separa las pruebas del Instituto de Seguridad de la IA de la aplicación de las normas, que quedaría en manos de un regulador.
- Los diputados también piden reportes obligatorios de incidentes, acceso para evaluadores independientes y mayores protecciones para denunciantes.
Reino Unido quiere un regulador con poder para frenar modelos de IA peligrosos
Un comité parlamentario británico propone una ley que permita intervenir en el desarrollo de sistemas de inteligencia artificial antes de que lleguen al público. La iniciativa busca que un regulador independiente pueda detener entrenamientos y pruebas de alto riesgo, bloquear lanzamientos o suspender servicios cuando las empresas no logren controlar los peligros identificados.
Una propuesta para intervenir antes del lanzamiento
El Comité de Negocios, Innovación, Ciencia y Comercio del Parlamento británico pidió una nueva Ley de Seguridad y Protección de la IA, con facultades regulatorias que operarían mientras los modelos todavía están en desarrollo. El informe, titulado Guardrails for Growth: Making AI Safe, plantea que la supervisión no debería depender únicamente de las decisiones internas de las compañías que construyen estos sistemas. Según informó The Register, el documento se compartió antes de su publicación prevista para el miércoles 18 de noviembre de 2026.
La propuesta contempla que el organismo pueda detener entrenamientos y pruebas considerados de alto riesgo, impedir despliegues y suspender servicios de inteligencia artificial si los riesgos no pueden mitigarse. La idea central es que la intervención ocurra antes de que un modelo llegue a usuarios o empresas, en vez de esperar a que aparezca un daño para actuar. El comité advierte que algunos sistemas, una vez lanzados, no pueden retirarse de forma fiable.
La preocupación regulatoria se relaciona también con la naturaleza de los modelos de lenguaje de gran tamaño, conocidos como LLM. Se entrenan con miles de millones de parámetros aprendidos y, según el informe, sus desarrolladores no siempre pueden anticipar cómo responderán en cada situación. Para los legisladores, esa incertidumbre vuelve insuficiente una promesa general de seguridad si no existe una entidad externa que pueda examinar evidencias y exigir cambios.
El comité llegó a sus recomendaciones tras escuchar a investigadores, antiguos empleados de empresas de IA y representantes de OpenAI, Google DeepMind, Anthropic y Meta. Las cuatro compañías dijeron a los diputados que no lanzarían modelos que consideraran inseguros, pero no emplean una misma vara para definir qué significa seguridad. Además, la legislación británica generalmente no les exige obtener una evaluación independiente antes de publicar un modelo.
Pruebas independientes y poderes de cumplimiento
El Reino Unido ya cuenta con el Instituto de Seguridad de la IA, o AISI, que prueba algunos de los modelos más potentes del mundo. Sin embargo, el instituto depende de la cooperación voluntaria de las compañías y no puede impedir por sí mismo que una empresa lance un sistema que plantee dudas. El comité propone que el AISI continúe realizando pruebas, mientras un regulador separado asume la responsabilidad de hacer cumplir las reglas.
La separación propuesta busca distinguir entre la evaluación técnica de los modelos y la decisión de imponer medidas cuando una empresa no atienda los riesgos. Para los diputados, disponer de pruebas no basta si la entidad que las realiza carece de autoridad para detener un lanzamiento. Un regulador con facultades legales podría convertir los resultados de esas evaluaciones en requisitos exigibles, aunque el informe no define todos los detalles operativos de esa futura institución.
Las obligaciones recaerían sobre desarrolladores de sistemas de alto riesgo que el regulador designe. Esas compañías tendrían que presentar evidencias para respaldar sus afirmaciones de seguridad y permitir que investigadores independientes examinen sus modelos. El comité también propone que los cambios importantes en las capacidades de un sistema o en sus salvaguardas activen una revisión adicional, de modo que una evaluación anterior no se considere suficiente para siempre.
El planteamiento representa un cambio respecto de un esquema basado principalmente en compromisos voluntarios de las empresas. Los diputados sostienen que compañías distintas pueden aplicar criterios propios para decidir cuándo un sistema es seguro, mientras que una verificación externa permitiría contrastar esas declaraciones. La propuesta no establece que todo modelo deba someterse al mismo nivel de control: las obligaciones más exigentes se dirigirían a los sistemas que el regulador clasifique como de alto riesgo.
Incidentes, denunciantes y responsabilidad pública
El informe identifica diez carencias en el enfoque británico de seguridad de la IA. Entre ellas figuran la falta de notificación obligatoria de incidentes, el acceso limitado de evaluadores independientes y las protecciones insuficientes para quienes denuncian problemas. Los diputados consideran que esos vacíos dificultan conocer qué falló, evaluar la recurrencia de un riesgo y aprender de situaciones que pudieron causar daños aunque no llegaran a hacerlo.
Por eso, el comité recomienda que las empresas informen obligatoriamente tanto los incidentes como los cuasi accidentes relacionados con la IA. Un reporte de ese tipo podría ofrecer a los responsables de supervisión una imagen más amplia de los problemas que aparecen durante el desarrollo o el uso de los sistemas. La propuesta exige que exista un mecanismo de aviso, aunque la información entregada no detalla plazos, formatos ni sanciones específicas para quienes incumplan.
Antiguos empleados del sector dijeron a los diputados que advertir sobre problemas de seguridad puede tener un costo personal y profesional. Según lo escuchado por el comité, contratos restrictivos, presiones comerciales y desincentivos financieros pueden desalentar al personal que intenta plantear inquietudes. Los legisladores piden mayores protecciones legales para denunciantes, con el objetivo de que informar sobre riesgos no dependa únicamente de la voluntad individual de quienes trabajan dentro de una compañía.
El presidente del comité, el diputado Liam Byrne, afirmó que no se puede conceder libertad ilimitada a los líderes de la IA para crear peligros que escapen al control público. También sostuvo que las empresas deben fundamentar sus afirmaciones de seguridad, permitir el examen independiente y aceptar la intervención de un regulador cuando los riesgos no puedan contenerse. Byrne añadió que los ministros, como responsables ante el Parlamento, deben decidir qué riesgos se pide soportar a la población.
El incentivo económico y los próximos pasos
La regulación propuesta aparece junto a una oportunidad económica que el comité considera significativa. A partir de estimaciones de productividad de la OCDE, los diputados calculan que la IA podría hacer que la economía británica sea hasta £ 400.000 millones más grande durante la próxima década. El documento también plantea que el país podría obtener beneficios de su experiencia en pruebas independientes, aprovechando el trabajo que ya realiza el AISI.
El comité argumenta que unas salvaguardas más sólidas podrían animar a más empresas, especialmente a las pequeñas, a adoptar herramientas de inteligencia artificial. La confianza en las evaluaciones y en los mecanismos para responder a incidentes podría reducir la incertidumbre que enfrentan organizaciones sin recursos para examinar por sí mismas sistemas avanzados. Esa relación entre seguridad y adopción es una expectativa planteada por los diputados, no una garantía de que las nuevas reglas produzcan ese resultado.
Los legisladores quieren que la nueva legislación se apruebe durante la próxima sesión parlamentaria, pero sus recomendaciones no son vinculantes y el gobierno todavía no se comprometió a presentar la ley propuesta. Por eso, el paso siguiente dependerá de si los ministros convierten las recomendaciones en un proyecto legislativo y de qué facultades concretas conceden al organismo regulador. La posibilidad de que el Ejecutivo autorice a una entidad a detener desarrollos de IA sigue abierta.
El comité también pidió que el Reino Unido aproveche su turno al frente del G20 en 2027 para promover reglas más estrictas entre otros países. Entre los temas que quiere impulsar figuran las pruebas de IA, la notificación de incidentes y las condiciones para lanzar modelos de riesgo. La iniciativa busca extender la discusión más allá de la regulación nacional, aunque el informe no anticipa qué gobiernos respaldarían esas normas ni si llegarían a un acuerdo común.
ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.
Suscríbete a nuestro boletín
Artículos Relacionados
IA
Actores británicos negocian pago y consentimiento para el uso de réplicas de IA
Estados Unidos
Exingeniero de OpenAI irá a juicio en 2027 por presunta grabación secreta
Juegos
Nintendo apunta contra Picofly y GitHub desactiva 144 repositorios
Capital de Riesgo
