Por Canuto  

El regulador británico propone 44 cambios para supervisar la inteligencia artificial médica, garantizar información para los pacientes y sancionar a los desarrolladores cuando los sistemas fallen.
***

  • La MHRA advierte que las normas actuales no cubren adecuadamente modelos de IA que continúan aprendiendo después de su autorización.
  • Las recomendaciones incluyen vigilancia permanente, derecho a saber si interviene una IA y sanciones para los desarrolladores incumplidores.
  • Alrededor del 40% de los médicos generales británicos ya usaría asistentes de IA para registrar consultas y elaborar informes.

El Reino Unido necesita actualizar sus leyes para regular los productos de inteligencia artificial utilizados en hospitales y consultas médicas, según una propuesta de la Agencia Reguladora de Medicamentos y Productos Sanitarios, conocida como MHRA. El organismo presentó 44 recomendaciones después de una revisión independiente en la que participaron más de 12.000 personas, entre pacientes y profesionales sanitarios, mientras el uso de estas herramientas se extiende dentro del Servicio Nacional de Salud, NHS.

Un marco pensado para dispositivos que no aprendían

La propuesta parte de una dificultad que distingue a la IA de muchos dispositivos médicos tradicionales: los modelos pueden cambiar después de recibir autorización. Lawrence Tallon, director de la MHRA, explicó a BBC News que las reglas fueron diseñadas principalmente para productos como prótesis de cadera, prótesis de rodilla, estetoscopios y tiras adhesivas, no para sistemas que incorporan nuevos datos, se adaptan y pueden desviarse de su comportamiento original.

Las normas vigentes pueden funcionar para aplicaciones relativamente simples, como aquellas entrenadas para detectar síntomas conocidos en imágenes y utilizadas bajo la supervisión de un especialista. Sin embargo, el regulador considera que ese enfoque resulta insuficiente para modelos más complejos, capaces de producir respuestas variables, aprender de nuevos datos o participar en varias etapas de una decisión clínica.

La MHRA propone, por ello, supervisar los productos de IA de manera continua y retirar su aprobación si empiezan a funcionar mal o pierden eficacia con el paso del tiempo. La recomendación modifica la lógica tradicional de autorizar un dispositivo una vez y asumir que mantendrá sus características, porque un sistema algorítmico puede cambiar sin que se modifique físicamente el equipo donde opera.

Tallon afirmó que espera que los pacientes vean cada vez más la IA como parte de la atención sanitaria normal del NHS, pero subrayó que ese avance debe preservar la confianza pública. También reconoció que ningún país puede señalar por ahora un marco regulatorio y afirmar que ha resuelto completamente el desafío, una advertencia relevante para gobiernos que intentan legislar una tecnología de alcance global.

Derecho a conocer el uso de la IA

Entre las recomendaciones figura que los pacientes tengan derecho a saber si una herramienta de inteligencia artificial participa en su atención. El informe también plantea que las personas puedan acceder con facilidad a información sobre los productos utilizados, una medida orientada a explicar qué función cumple el sistema y qué responsabilidad conserva el profesional sanitario.

La propuesta incluye además la capacidad de sancionar a los desarrolladores cuando sus productos no cumplan los estándares exigidos. Esa facultad buscaría evitar que la responsabilidad quede diluida entre hospitales, médicos y proveedores tecnológicos, especialmente cuando un modelo entrega resultados incorrectos, pierde precisión o funciona de forma desigual con distintos grupos de pacientes.

Otra recomendación plantea crear un sistema de “chapa de aprendiz” para la IA, que permitiría a los profesionales probar nuevos modelos bajo una supervisión estrecha. El mecanismo pretende abrir espacio para la innovación y la evaluación práctica sin tratar una herramienta experimental como si ya tuviera el mismo nivel de confiabilidad que un producto ampliamente validado.

La discusión también alcanza a los asistentes conocidos como scribes, sistemas basados en modelos de lenguaje que escuchan consultas y generan notas o informes. Un estudio de la Universidad de Edimburgo, citado por BBC News y presentado por la propia universidad bajo el título “AI scribes may fail to capture patients’ experiences”, señala que los pacientes podrían compartir menos información personal, incluidos antecedentes de abuso de sustancias, si supieran que la conversación está siendo procesada por una IA.

La confianza del paciente será una prueba decisiva

Henrietta Hughes, médica general y miembro de la comisión que elaboró el informe, señaló que muchos de sus pacientes aceptan el uso de IA durante las consultas, aunque algunos prefieren no participar. Según su experiencia, hay personas que expresan que no quieren hablar con un robot, y esa decisión también debe considerarse legítima dentro de un sistema sanitario que busca mantener el consentimiento y la confianza.

Hughes reconoció que los asistentes pueden cometer errores en sus notas, desde omisiones hasta registros inexactos de lo conversado. A su juicio, corresponde a los médicos revisar y corregir esos documentos, lo que mantiene al profesional humano como responsable de verificar la información antes de incorporarla al expediente o utilizarla para orientar una decisión.

El uso actual de la IA en el NHS se concentra principalmente en tareas administrativas y en detecciones de síntomas supervisadas por expertos. Se estima que estas herramientas de registro ya son utilizadas por el 40% de los médicos generales del Reino Unido, una adopción que muestra cómo la tecnología puede incorporarse silenciosamente a la consulta antes de que los pacientes comprendan plenamente sus alcances.

El debate no se limita a la comodidad o al ahorro de tiempo. Los modelos pueden tomar decisiones equivocadas por sesgos presentes en los datos de pacientes usados durante su entrenamiento, mientras los chatbots pueden entregar consejos médicos incorrectos; por eso, la transparencia, la auditoría permanente y la posibilidad de corregir o retirar un sistema forman parte central de la propuesta británica.

Potencial científico y riesgos pendientes

El informe también reconoce que la inteligencia artificial podría transformar la investigación sanitaria y médica, más allá de sus aplicaciones administrativas. Alastair Denniston, oftalmólogo que participó en el trabajo, describió la tecnología como una oportunidad excepcional y sostuvo que sus efectos podrían alcanzar una escala comparable con la llegada de los antibióticos o de la resonancia magnética.

El entusiasmo se extiende a la búsqueda de tratamientos y curas, aunque las declaraciones más ambiciosas siguen siendo expectativas y no resultados demostrados. En septiembre, Rene Haas, máximo responsable del diseñador de chips Arm, dijo a BBC News que creía que la tecnología encontraría una cura para el cáncer dentro de su vida, una predicción que ilustra tanto la confianza empresarial como la magnitud de las promesas asociadas a la IA.

La distancia entre ese potencial y la práctica clínica exige controles proporcionales al riesgo. Un sistema que resume una conversación puede requerir una revisión distinta de otro que identifica una enfermedad, recomienda un tratamiento o influye directamente en una decisión urgente, aunque ambos se presenten comercialmente como productos de inteligencia artificial.

La MHRA no propone frenar el desarrollo tecnológico, sino adaptar la supervisión a herramientas que evolucionan después de su aprobación. Para el NHS, el reto será incorporar modelos útiles sin convertir a los pacientes en usuarios involuntarios de pruebas, mientras los desarrolladores deberán demostrar que sus sistemas mantienen la calidad cuando cambian los datos, las poblaciones atendidas o las condiciones clínicas.

Qué cambiaría para hospitales y desarrolladores

Si las recomendaciones se convierten en nuevas obligaciones, los hospitales tendrían que identificar con mayor claridad dónde interviene la IA en la atención y qué controles humanos existen. También deberían ofrecer información accesible a los pacientes, documentar el desempeño de las herramientas y establecer procedimientos para corregir errores o suspender su uso cuando los resultados se deterioren.

Para los desarrolladores, la autorización dejaría de ser el punto final de la relación con el regulador. La vigilancia continua implicaría reunir evidencia sobre la eficacia del producto durante su funcionamiento real, responder ante fallos y aceptar posibles sanciones si el sistema no cumple las normas, incluso cuando el problema aparezca después de una actualización o de la incorporación de nuevos datos.

El modelo de “chapa de aprendiz” podría ofrecer una vía intermedia entre la prohibición y la adopción irrestricta. Los profesionales tendrían un entorno controlado para evaluar modelos emergentes, pero la supervisión estrecha sería indispensable para detectar sesgos, errores de interpretación y cambios de comportamiento antes de que una herramienta alcance un uso rutinario.

La propuesta llega en un momento en que el NHS empieza a integrar la IA en actividades cotidianas y en que los pacientes enfrentan una pregunta básica: quién decide y quién responde cuando una máquina participa en su atención. La respuesta británica apunta a combinar innovación con información, revisión humana y capacidad de intervención, aunque el propio regulador admite que todavía no existe una solución definitiva a escala internacional.

Imagen original de DiarioBitcoin, creada con inteligencia artificial, de uso libre, licenciada bajo Dominio Público.

Este artículo fue escrito por un redactor de contenido de IA y revisado por un editor humano para garantizar calidad y precisión.


ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín

Artículos Relacionados