Por Canuto  

Una advertencia sobre el uso de escribas de IA en el NHS revela errores que van desde diagnósticos invertidos hasta medicamentos sustituidos, mientras los pacientes quedan como última línea de defensa.
***

  • Healthwatch England recopiló casos de escribas que confundieron fármacos, omitieron instrucciones y agregaron tratamientos no mencionados.
  • Veintisiete herramientas de IA están en uso en el sistema de salud de Inglaterra, en un contexto de supervisión fragmentada entre instituciones y proveedores.
  • La regulación británica distingue entre los sistemas que solo transcriben consultas y aquellos que pueden sugerir diagnósticos o tratamientos, según las capacidades declaradas del producto.

Los escribas de inteligencia artificial que transcriben consultas médicas y redactan notas para el historial clínico están generando errores capaces de cambiar por completo el significado de una atención. En Inglaterra, un paciente recibió la indicación de que presentaba desmielinización, una lesión nerviosa asociada con enfermedades como la esclerosis múltiple, aunque el resultado original de la prueba decía “null demyelination”. La herramienta eliminó la palabra que invertía el sentido de la frase y convirtió un resultado negativo en un diagnóstico alarmante.

El caso forma parte de una advertencia de Healthwatch England, organismo estatutario encargado de supervisar la experiencia de los pacientes, que fue divulgada por The Guardian. La entidad señaló que estos sistemas también están equivocando nombres de medicamentos, omitiendo instrucciones clínicas y registrando conversaciones que nunca ocurrieron, mientras los pacientes suelen ser quienes descubren las inconsistencias al leer sus documentos.

El NHS, o National Health Service, utiliza actualmente 27 escribas de IA distintos en hospitales y consultas de médicos de cabecera en Inglaterra, de acuerdo con la cobertura disponible sobre el informe. Estas herramientas escuchan la conversación dentro del consultorio, producen una nota para el expediente médico y, en algunos casos, preparan la carta que posteriormente recibe el paciente, de modo que una falla puede propagarse a varios documentos oficiales.

Errores pequeños con consecuencias clínicas

Los ejemplos reunidos por Healthwatch no corresponden necesariamente a textos absurdos o fáciles de detectar. Uno de los sistemas sustituyó un medicamento recetado por otro cuyo nombre era parecido, una confusión especialmente delicada porque la similitud entre nombres, etiquetados o envases es una causa conocida de errores de medicación. Cuando una nota conserva una apariencia profesional, el error puede pasar inadvertido durante la revisión rápida de un médico.

En otro caso, el resumen generado por la herramienta omitió la instrucción de un especialista para que el paciente solicitara una nueva receta de su medicación contra la migraña. La omisión no altera la forma general del documento, pero sí elimina una acción concreta que podía resultar necesaria para mantener la continuidad del tratamiento y evitar una interrupción de la medicación.

Un tercer registro indicó que el médico había recomendado al paciente continuar tomando Prozac, aunque el profesional no había recetado ese medicamento ni lo había mencionado durante la consulta. El episodio ilustra un riesgo distinto al de una simple palabra mal escrita: el sistema produjo una afirmación clínica fluida y plausible, pero sin respaldo en la conversación original.

Healthwatch advirtió que “estas inexactitudes pueden persistir en sus registros si el paciente no las detecta”. Esa advertencia coloca una responsabilidad crítica sobre personas que, en muchos casos, no tienen los conocimientos necesarios para identificar qué diagnóstico, nombre farmacológico o instrucción debería aparecer en una carta médica, especialmente cuando el lenguaje utilizado parece técnico y coherente.

Una adopción rápida sin supervisión uniforme

La preocupación no se limita a la capacidad técnica de los modelos, sino a la velocidad con que fueron incorporados a la práctica clínica. La documentación médica representa una de las principales cargas administrativas para los profesionales, por lo que una herramienta que prometa eliminar aproximadamente una hora diaria de escritura puede resultar atractiva incluso antes de completar una evaluación independiente y exhaustiva.

Rachel Power, directora ejecutiva de la Patients Association, expresó inquietudes sobre el despliegue de estas herramientas, al igual que la médica de cabecera londinense Shier Ziser Dawood y Charlotte Blease, de la Universidad de Uppsala en Suecia. La objeción planteada por estas voces no apunta necesariamente contra la tecnología, sino contra su llegada a los consultorios sin una red de seguridad suficientemente clara para pacientes y médicos.

Actualmente no existe una supervisión común para todo el territorio inglés que abarque estos productos. La forma en que se aplica la regulación depende, entre otros factores, de las funciones que ofrece cada sistema: los productos que solo transcriben una consulta pueden recibir un tratamiento distinto de aquellos que sugieren diagnósticos o tratamientos.

La MHRA publicó una guía para precisar esa frontera regulatoria. La orientación, emitida originalmente el 29 de julio de 2024, distingue entre un sistema que únicamente transcribe lo dicho durante una consulta y una herramienta que interviene con funciones relacionadas con el diagnóstico o el tratamiento. Por ello, no basta con la etiqueta comercial de “escriba”: también deben considerarse las capacidades reales del producto y el uso que se haga de él.

El problema regulatorio de la etiqueta “transcriptor”

La clasificación crea un incentivo comercial evidente: presentar un producto como un transcriptor pasivo puede evitar el proceso regulatorio que enfrentaría un asistente clínico con funciones de diagnóstico o tratamiento. Sin embargo, la diferencia entre ambas categorías puede ser menos nítida en la práctica cuando un sistema resume, organiza o completa información médica en un documento que después se incorpora al historial permanente.

El tipo de error observado también exige ampliar la conversación sobre seguridad en inteligencia artificial. En estos casos, el sistema no necesariamente inventó un hecho completo ni respondió con una afirmación extravagante; reprodujo de forma incorrecta una frase real, y una alteración aparentemente pequeña bastó para cambiar el significado de un diagnóstico o el nombre de un medicamento.

El riesgo aumenta porque la nota generada suele ser fluida, ordenada y verosímil. Un profesional con poco tiempo puede revisar el documento antes de firmarlo sin volver a comparar cada línea con la conversación original, mientras el paciente recibe una carta que parece oficial y podría asumir que todos sus detalles fueron validados por el equipo médico.

La cadena de responsabilidad queda entonces fragmentada entre el proveedor del software, la institución sanitaria, el médico que firma y el paciente que eventualmente detecta el problema. Una herramienta adoptada por su rapidez, categorizada de manera que evita determinadas pruebas y utilizada para crear un registro clínico permanente puede dejar zonas grises sobre quién debe responder cuando una omisión o sustitución produce consecuencias.

La revisión del paciente como última barrera

Healthwatch propone una medida poco llamativa, pero potencialmente decisiva: informar a los pacientes cuando se utilice un escriba de IA y entregarles las notas para que puedan revisarlas. La recomendación convertiría una comprobación accidental, dependiente de que alguien lea con atención su carta médica, en un mecanismo de seguridad deliberado dentro del proceso de atención.

La transparencia también permitiría que el paciente entendiera por qué una nota puede tener un estilo distinto o incluir formulaciones que no reconoce de la consulta. Ese aviso no resolvería por sí solo los errores de reconocimiento o de redacción, pero ofrecería una oportunidad concreta para cuestionar un diagnóstico, confirmar un medicamento o pedir que se corrija una instrucción ausente antes de que la información se utilice en una atención posterior.

El desafío para el NHS consiste en equilibrar el alivio administrativo que prometen estas herramientas con controles proporcionales al daño potencial. Los escribas pueden ahorrar tiempo y facilitar la elaboración de documentos, pero su utilidad depende de que cada nota sea verificada con el mismo cuidado que cualquier otro registro médico, incluso cuando el texto generado parezca impecable.

Por ahora, el sistema combina 27 productos en uso, una regulación que diferencia entre la transcripción y las funciones clínicas, y una revisión que con frecuencia recae en quien menos preparado está para reconocer un error médico. La expansión de la IA en la salud inglesa no enfrenta únicamente una pregunta de eficiencia, sino una exigencia básica de trazabilidad: que pacientes y profesionales sepan quién verificó cada dato antes de convertirlo en parte de su historia médica.

Imagen original de DiarioBitcoin, creada con inteligencia artificial, de uso libre, licenciada bajo Dominio Público.

Este artículo fue escrito por un redactor de contenido de IA y revisado por un editor humano para garantizar calidad y precisión.


ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín

Artículos Relacionados