Por Canuto  

Una revisión de 203 resúmenes de entrevistas de asilo generados con IA detectó que el 22% no superó las comprobaciones iniciales. El Open Rights Group también cuestiona la supervisión de las herramientas y si realmente aceleran las decisiones.
***

  • 45 de 203 resúmenes revisados por expertos no superaron las comprobaciones iniciales, frente a una tasa de rechazo del 9% durante la prueba piloto.
  • El grupo estima que solo se verificó el 0,3% de los resúmenes entre abril y julio, mientras los tiempos de decisión empeoraron.
  • El Home Office sostiene que las decisiones siguen en manos humanas, pero los solicitantes no pueden revisar ni corregir los resúmenes generados.

Sumario: Un informe del Open Rights Group cuestiona la precisión y la supervisión de dos herramientas de IA utilizadas por el Home Office británico para procesar solicitudes de asilo. Según las cifras recogidas por el grupo, el 22% de los resúmenes examinados no superó las comprobaciones iniciales de expertos; el informe también pone en duda que las herramientas hayan acelerado el trabajo.

  • 45 de 203 resúmenes no superaron la primera revisión de expertos, una proporción del 22%.
  • El Open Rights Group estima que la revisión habría cubierto apenas el 0,3% de los resúmenes generados entre abril y julio.
  • El tiempo entre entrevista y decisión aumentó un 29%, según los datos citados en el informe.

El 22% de los resúmenes de asilo revisados no superó los controles iniciales

Dos herramientas de inteligencia artificial que el Home Office británico utiliza en el procesamiento de solicitudes de asilo quedaron bajo cuestionamiento por los errores detectados en sus resultados y por el alcance de la supervisión. Una investigación del Open Rights Group (ORG), basada en solicitudes de acceso a información pública y correspondencia con ministros, indica que 45 de 203 resúmenes de entrevistas revisados tras el despliegue de una herramienta no superaron las comprobaciones iniciales de expertos.

Los errores detectados en los resúmenes

El sistema Asylum Case Summarisation (ACS) produce resúmenes de las entrevistas de asilo, mientras que Asylum Policy Search (APS) funciona como una herramienta conversacional para buscar información sobre políticas de país. Ambas utilizan GPT-4o de OpenAI a través de Azure AI Foundry, el servicio de Microsoft. El Home Office las incorporó a su trabajo con la expectativa de apoyar el procesamiento de casos, pero el informe pone el foco en la fiabilidad de los resultados que reciben los funcionarios.

Las cifras obtenidas por ORG registran 45 resúmenes que no superaron la primera revisión de expertos entre 203 examinados después de que ACS entrara en uso en abril de 2026. Esa proporción equivale a cerca del 22%, por encima del 9% de rechazos observado durante la prueba piloto original. Otros 19 resúmenes quedaron señalados para una revisión adicional, aunque el informe no los presenta como parte de la misma categoría de fallas iniciales.

El proceso también incluyó 56 revisiones de segunda etapa, de las cuales 30 no alcanzaron el estándar requerido. Entre los problemas posibles figuran errores de hecho y versiones inexactas de lo que los solicitantes dijeron durante sus entrevistas. ORG añade que algunos resúmenes podían superar las comprobaciones aunque dejaran fuera detalles importantes, siempre que la información que sí incluían fuera precisa.

Ese último punto plantea una diferencia relevante entre verificar que un resumen no contenga afirmaciones incorrectas y comprobar que represente de manera suficiente una entrevista. En un trámite de asilo, la omisión de información puede afectar la comprensión del relato, aunque las frases restantes sean correctas. El informe no afirma que cada omisión haya alterado una decisión, pero sí cuestiona si las revisiones actuales detectan todas las limitaciones del sistema.

Alcance limitado de la supervisión

La cantidad de controles también preocupa al grupo de derechos digitales. A partir de la carga mensual proyectada por el departamento, de 17.515 casos, ORG estima que expertos del Home Office revisaron apenas el 0,3% de los resúmenes generados entre abril y julio. Esa proporción implica que la mayoría de los documentos producidos durante ese período no habría pasado por una comprobación experta, de acuerdo con el cálculo del grupo.

La cifra no significa que todos los resúmenes no examinados contengan errores, pero limita lo que puede concluirse sobre su calidad general. Si las revisiones cubren una fracción pequeña del volumen, las tasas de falla observadas describen los casos controlados y no necesariamente todo el conjunto de documentos. ORG sostiene que ese alcance reducido dificulta confiar en que los mecanismos actuales identifiquen de forma consistente errores o información omitida.

La supervisión de APS presenta otra incógnita. En agosto, el Home Office confirmó que había detenido las pruebas de expertos de esa herramienta, aunque antes había dicho a parlamentarios que las comprobaciones continuaban. ORG afirma que no se elaboró un resumen de los resultados de las pruebas, por lo que no existe en la información presentada una evaluación consolidada que permita conocer qué encontraron los controles anteriores.

El departamento sostiene que las decisiones de asilo siguen bajo responsabilidad humana, una garantía que resulta central cuando una herramienta automatiza tareas vinculadas con expedientes personales. Sin embargo, el grupo cuestiona cuánto margen tienen los funcionarios para detectar fallas en textos generados por IA, especialmente si el sistema sustituye tareas que antes realizaban especialistas. La discusión no se limita, por tanto, a quién firma una decisión, sino a qué controles acompañan el material que llega a esa persona.

Dudas sobre eficiencia y acceso de los solicitantes

Los datos de procesamiento citados por ORG tampoco reflejan una aceleración evidente desde la introducción de ACS. El promedio mensual de decisiones iniciales sustantivas de asilo desde abril de 2026 cayó alrededor de un 42% frente al mismo período de 2025. Además, el tiempo medio entre la entrevista y la decisión aumentó un 29%, dos tendencias que contrastan con las ganancias de eficiencia prometidas por los ministros.

Esas cifras, por sí solas, no demuestran que la IA haya provocado una caída en las decisiones ni que haya alargado los plazos. El informe las presenta como un motivo para cuestionar si las herramientas están ofreciendo los resultados de productividad esperados, no como una prueba de causalidad. Sin una comparación que aísle el efecto de la tecnología frente a otros factores, la relación entre el uso de ACS y el desempeño general del sistema permanece abierta.

Los solicitantes tampoco reciben una notificación específica de que la IA haya intervenido en sus casos, según los hallazgos descritos por ORG. Además, no pueden inspeccionar ni corregir los resúmenes generados a partir de sus entrevistas. Esa falta de acceso reduce la posibilidad de que una persona señale una omisión o una distorsión antes de que el documento forme parte del trabajo de quienes procesan el expediente.

La evaluación de protección de datos del propio Home Office indica que ACS automatiza tareas que antes realizaban especialistas técnicos, quienes revisaban y resumían los casos antes de enviarlos a los responsables de tomar decisiones. Para ORG, este cambio puede eliminar una capa de escrutinio experimentado en vez de limitarse a ahorrar tiempo al personal. El grupo pide suspender ambas herramientas y someterlas a una auditoría independiente, al considerar insuficientes las salvaguardas actuales para decisiones que determinan si alguien puede permanecer en el Reino Unido.

Un debate que se suma a otras críticas

El uso de IA en procesos migratorios ya había generado objeciones en el Reino Unido durante 2026. En junio, más de 60 organizaciones de derechos instaron a los ministros a abandonar planes para estimar con IA la edad de menores solicitantes de asilo. Los grupos advirtieron sobre la falta de fiabilidad de la tecnología, en particular para distinguir edades dentro del tramo de 16 a 18 años.

Más adelante, en ese mismo mes, una inspección encontró problemas en Atlas, el sistema de inmigración del departamento. Según ese examen, la plataforma no proporcionaba a los funcionarios información de retorno sobre las apelaciones de asilo, lo que obligaba al personal a recurrir a soluciones provisionales. Se trata de una herramienta distinta de ACS y APS, pero el antecedente amplía las preguntas sobre cómo se implementan y supervisan las tecnologías que apoyan el trabajo migratorio.

La investigación no concluye que la inteligencia artificial deba quedar fuera de todo trámite público, pero reclama controles verificables cuando sus resultados alimentan procesos con consecuencias graves para las personas. En este caso, la proporción de resúmenes que no superó los controles iniciales, la cobertura limitada de las revisiones y la imposibilidad de corregirlos forman parte de una misma preocupación sobre rendición de cuentas. El Home Office no respondió a las preguntas de The Register sobre los hallazgos.

La petición de ORG es que ACS y APS se suspendan mientras una auditoría independiente evalúa su precisión, sus salvaguardas y su impacto real en el trabajo del departamento. Hasta entonces, las cifras disponibles no resuelven si las herramientas son responsables del deterioro en los tiempos de procesamiento, pero sí dejan en entredicho que ya hayan demostrado las mejoras anunciadas. La promesa de acelerar decisiones no despeja la necesidad de explicar cómo se detectan y corrigen los errores.

Imagen original de DiarioBitcoin, creada con inteligencia artificial, de uso libre, licenciada bajo Dominio Público.

Este artículo fue escrito por un redactor de contenido de IA y revisado por un editor humano para garantizar calidad y precisión.


ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín

Artículos Relacionados