Por Canuto  

La FCA británica sostiene que las obligaciones vigentes de reporte de incidentes importantes deben abarcar fallos significativos de inteligencia artificial y casi accidentes, mientras aumenta la autonomía de estos sistemas. La postura se cruza con advertencias sobre ciberseguridad, rendición de cuentas y posibles shocks de mercado impulsados por IA.
***

  • La FCA sostiene que las reglas actuales sobre incidentes importantes deben abarcar fallos significativos de IA y casi accidentes.
  • El Gobierno analiza cómo reforzar la protección frente a amenazas cibernéticas y riesgos de pérdida de control asociados a la IA.
  • El Comité de Hacienda pidió pruebas de estrés y líneas claras de responsabilidad cuando la IA genere resultados dañinos o injustos.

La FCA plantea que las reglas vigentes abarquen fallos y casi accidentes de IA en las finanzas británicas

La Autoridad de Conducta Financiera del Reino Unido (FCA) sostiene que las empresas financieras deben informar de fallos importantes de inteligencia artificial y de incidentes que estuvieron cerca de causar daños. Jessica Rusu, directora de datos, información e inteligencia del organismo, planteó que las obligaciones actuales de reporte deben cubrir estos casos mientras los servicios financieros incorporan sistemas cada vez más autónomos, incluidos agentes de IA.

El planteamiento no se limita a reaccionar cuando un sistema ya produjo consecuencias visibles: busca que las entidades comuniquen también señales de riesgo que permitan aprender antes de que ocurra un daño mayor. Rusu expuso la posición de la FCA durante la Serie de Políticas del Reino Unido de Bloomberg, en un momento en que las autoridades británicas debaten cómo combinar la adopción de estas herramientas con controles y responsabilidades claras.

Un reporte que abarque fallos y señales tempranas

Rusu indicó que las normas vigentes ya exigen a las empresas informar de incidentes importantes y sostuvo que ese deber debe extenderse a fallos significativos de IA y casi accidentes. Su argumento parte de una preocupación concreta: una IA mal gobernada puede perjudicar a consumidores, crear vulnerabilidades cibernéticas y provocar fallos operativos, con una velocidad y una escala potencialmente mayores.

La advertencia cobra especial relevancia cuando los sistemas actúan con mayor autonomía, porque la intervención humana puede no producirse en cada paso de una operación. La FCA no presentó en la información disponible un nuevo formulario, umbral o calendario de cumplimiento; su mensaje fue que el reporte existente de incidentes importantes debe cubrir también los episodios significativos relacionados con IA y los eventos que casi terminan en daño.

Rusu señaló además que el reporte de casi accidentes en la IA agéntica se está convirtiendo en una prioridad de seguridad nacional, una idea que, según dijo, también ha reconocido el ministro británico de IA. Al presentarlo como una prioridad regulatoria, la funcionaria vinculó la supervisión del sector financiero con un debate más amplio sobre cómo identificar y revisar incidentes graves antes de que se repitan o escalen.

Para las entidades, reportar un casi accidente supone prestar atención a eventos que no necesariamente dejaron pérdidas o afectaron a un cliente, pero que revelan una debilidad en el funcionamiento o control del sistema. Esa lógica no elimina la necesidad de investigar daños consumados; añade una oportunidad de estudiar señales tempranas y corregir prácticas antes de que un fallo similar alcance a más personas o servicios.

El peso financiero del Reino Unido y la apuesta por la adopción segura

La FCA quiere que el Reino Unido lidere la adopción segura de IA en los servicios financieros, un sector de peso considerable para la economía nacional. La información citada por The Register indica que las finanzas aportaron GBP 223.600 millones en 2025, equivalentes al 8% de la producción del país, y que esa proporción fue la cuarta más alta entre los miembros de la Organización para la Cooperación y el Desarrollo Económicos.

Ese contexto explica por qué la discusión regulatoria no se plantea únicamente como un asunto de tecnología empresarial. Si las instituciones financieras adoptan sistemas con mayor autonomía, las autoridades buscan que los beneficios de su uso no se traduzcan en daños al consumidor, interrupciones operativas o riesgos cibernéticos que las empresas no puedan explicar ni atender con claridad.

La posición de la FCA también apunta a la rendición de cuentas: la autonomía de una herramienta no debería borrar quién responde por sus resultados dentro de una organización. La información disponible no especifica un modelo único de responsabilidad ni asigna de antemano las obligaciones a cargos concretos, pero Rusu insistió en que la mayor autonomía requiere que las responsabilidades sean claras.

En paralelo, Kanishka Narayan, ministro de inteligencia artificial del Reino Unido, dijo la semana anterior que el Gobierno planea trabajar con el Parlamento y expertos técnicos para evaluar cómo fortalecer el régimen de protección del país. La revisión contempla amenazas cibernéticas y riesgos de pérdida de control impulsados por IA, además de la identificación y el reporte de incidentes graves y casi accidentes, incluso en servicios esenciales.

Lecciones de la aviación y debate sobre ciberseguridad

Narayan planteó que los incidentes graves de IA deberían poder revisarse adecuadamente, junto con las medidas para reducir los riesgos que la tecnología puede generar en servicios esenciales. Su intervención conecta la gestión de incidentes con una cuestión práctica: sin identificar los eventos y conservar información suficiente para examinarlos, las autoridades y las empresas tendrían menos elementos para comprender qué falló y cómo prevenir una repetición.

En una comparecencia ante diputados la semana anterior, Steven Adler, cofundador y científico jefe de Guidelight AI Standards, propuso mirar a la aviación como referencia para la supervisión. Según Adler, en la mayoría de las jurisdicciones de ese sector el reporte de casi accidentes es obligatorio, porque analizar lo que estuvo cerca de convertirse en un accidente puede ayudar a evitar daños futuros.

La comparación no significa que las finanzas y la aviación tengan riesgos idénticos ni que puedan compartir sin ajustes el mismo régimen de reporte. El punto presentado por Adler es más acotado: limitar el aprendizaje a los incidentes con consecuencias graves dejaría fuera señales que también podrían revelar fallas, por lo que registrar los casi accidentes puede aportar información preventiva.

Sin embargo, el Gobierno todavía no se ha comprometido a incorporar medidas específicas sobre IA al Proyecto de Ley de Ciberseguridad y Resiliencia, conocido también por su referencia a los Sistemas de Redes e Información. Alexandra Jones, directora general de Crecimiento, Ciencia e Internacional del Departamento de Ciencia, Innovación y Tecnología, dijo ante los diputados que las enmiendas siguen bajo consideración, de modo que la inclusión de requisitos concretos permanece sin resolver.

Presión para probar la preparación ante shocks de mercado

El debate también tiene una dimensión de estabilidad financiera. En enero, el Comité de Hacienda de la Cámara de los Comunes pidió a los reguladores financieros que realizaran pruebas de estrés para comprobar si las empresas están preparadas frente a shocks de mercado impulsados por IA, y reclamó líneas de responsabilidad claras si esos sistemas producen resultados dañinos o injustos.

Las pruebas de estrés mencionadas por el comité se sumarían a la discusión sobre la notificación de incidentes: una busca evaluar la preparación de las firmas ante posibles shocks, mientras la otra permitiría conocer y examinar fallos o casi accidentes concretos. La información disponible no describe escenarios específicos ni fija resultados esperados para esas pruebas, por lo que su alcance operativo no queda definido.

Las autoridades británicas, por tanto, mantienen abiertas varias piezas del debate: qué incidentes deben comunicarse, cómo se revisarán y qué cambios legales podrían incorporarse al marco de ciberseguridad. La FCA expresó que las obligaciones actuales de reporte deben abarcar los fallos significativos de IA y los casi accidentes, mientras el Gobierno sigue evaluando posibles enmiendas y el comité parlamentario reclama más preparación ante riesgos de mercado.

El resultado de esas conversaciones determinará cómo se traduce la exigencia de rendición de cuentas en reglas aplicables a las firmas financieras. Por ahora, el mensaje regulatorio de Rusu es que la adopción de IA más autónoma debe ir acompañada de una capacidad clara para detectar, reportar y revisar tanto los daños como los incidentes que estuvieron a punto de producirlos.


ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín

Artículos Relacionados