Inteligencia artificial en medicina: ruta para su integración

No describe por sí solo la situación europea. Sí demuestra el problema central: disponer de autorización no equivale a disponer de evidencia clínica suficiente para cada contexto asistencial.

La inteligencia artificial en medicina y, en particular, en el diagnóstico clínico, no se integra instalando una aplicación. Se integra modificando un proceso asistencial. Eso exige seleccionar una herramienta concreta, determinar su clasificación regulatoria, revisar su rendimiento en la población atendida, establecer quién supervisa sus resultados y explicar al paciente cuándo interviene el sistema.

La tecnología puede reducir carga administrativa. Un estudio de Tandem Health comunicó una reducción del 29 % en el tiempo de redacción de informes médicos mediante asistentes de inteligencia artificial. Ese resultado pertenece a una tarea específica. No permite trasladar la misma eficiencia al diagnóstico, al cribado o a la recomendación terapéutica.

La diferencia entre ambos usos es clínica y regulatoria. Un asistente que ayuda a estructurar un informe no tiene el mismo perfil de riesgo que un algoritmo que prioriza una mamografía sospechosa, clasifica una lesión cutánea o recomienda una prueba adicional.

El primer paso no es comprar tecnología

La implementación de IA en hospitales suele empezar por una pregunta equivocada: qué herramienta se puede adquirir. La pregunta útil es otra: qué problema clínico se quiere resolver y qué riesgo introduce la solución.

Un algoritmo puede actuar sobre varias fases del circuito asistencial:

• Documentación: transcripción, resumen de historia clínica y redacción preliminar de informes.
• Priorización: ordenación de pruebas o alertas según determinados hallazgos.
• Detección: identificación de patrones radiológicos, histológicos o clínicos.
• Predicción: estimación de riesgo de complicaciones, reingreso o progresión.
• Recomendación: propuesta de pruebas, diagnósticos diferenciales o tratamientos.
• Comunicación: generación de información para profesionales o pacientes.

No todas esas funciones tienen la misma repercusión. Un error en la transcripción puede obligar a corregir un documento. Un error en la priorización puede retrasar una prueba. Un error en una recomendación terapéutica puede modificar directamente la atención del paciente.

La evaluación debe describir el uso real. No basta con afirmar que el sistema tiene una alta precisión. Hay que saber qué significa esa precisión, en qué población se obtuvo y qué ocurre cuando el resultado es incorrecto.

Una herramienta de apoyo no es un médico digital

El Reglamento (UE) 2024/1689, conocido como Reglamento de Inteligencia Artificial o AI Act, clasifica como sistemas de alto riesgo las aplicaciones destinadas al diagnóstico médico, al cribado o a la recomendación de tratamientos. Esta clasificación no convierte al algoritmo en una autoridad clínica. Lo contrario: aumenta las exigencias sobre su diseño, documentación, control y supervisión.

El profesional sanitario conserva la responsabilidad legal última de la decisión asistencial. La recomendación de una herramienta debe revisarse de forma independiente. La pantalla no sustituye la exploración. El resultado numérico no sustituye la historia clínica. Una probabilidad no equivale a un diagnóstico.

En dermatología hospitalaria, por ejemplo, un sistema de análisis de imágenes puede señalar una lesión como sospechosa. Ese dato puede ayudar a priorizar la valoración. No resuelve por sí solo la calidad de la imagen, el contexto clínico, la evolución temporal, la localización anatómica ni los diagnósticos alternativos. Tampoco determina la necesidad de biopsia sin integrar el juicio del especialista.

La inteligencia artificial no elimina la incertidumbre clínica. La desplaza hacia los datos, el diseño del modelo y la supervisión profesional.

Del AI Act al marcado CE: la ruta regulatoria

La regulación aplicable no depende de que una empresa describa su producto como innovador. Depende de lo que hace el sistema y de cómo interviene en la atención sanitaria.

Cuando una herramienta tiene finalidad médica, puede quedar sometida al Reglamento de Productos Sanitarios, conocido como MDR, además de las obligaciones derivadas del AI Act. El marcado CE es una condición relevante, pero no debe interpretarse como una garantía universal de rendimiento en cualquier hospital o población.

El marcado indica que el producto ha seguido el procedimiento de evaluación de conformidad que corresponde a su clasificación. No significa que el sistema haya demostrado la misma utilidad en todos los servicios. Tampoco demuestra que funcione igual con equipos distintos, protocolos diferentes o pacientes con características no representadas en los datos de desarrollo.

La revisión institucional debe separar cuatro preguntas:

El AI Act introduce obligaciones específicas para los sistemas de alto riesgo. Entre ellas se encuentran la gestión de riesgos, la gobernanza de datos, la documentación técnica, la trazabilidad, la transparencia y la supervisión humana. Los artículos 9, 10, 12 y 14 son especialmente relevantes para el entorno sanitario.

El artículo 9 se relaciona con la gestión de riesgos. En un hospital, esto exige identificar fallos previsibles. También valorar el daño que produciría un resultado falso negativo, un falso positivo o una recomendación no pertinente.

El artículo 10 aborda la gobernanza y la calidad de los datos. Un conjunto de entrenamiento puede ser grande y, aun así, no representar bien a la población atendida. La procedencia de las imágenes, la calidad de las anotaciones, la distribución por edades y la presencia de comorbilidades modifican el rendimiento.

El artículo 12 exige conservar registros y permitir la trazabilidad de la actividad del sistema. Si un algoritmo participa en una decisión, el centro necesita reconstruir qué versión estaba activa, qué datos recibió y qué resultado generó.

El artículo 14 establece la supervisión humana. No consiste en que un profesional pulse un botón de aceptación. Exige capacidad real para interpretar, cuestionar y descartar la salida del sistema. La supervisión pierde valor cuando el volumen de alertas es demasiado alto, la interfaz oculta la incertidumbre o la organización penaliza al profesional que se aparta de la recomendación automática.

El MDR no sustituye al RGPD

El cumplimiento del MDR y del AI Act no exime de cumplir el Reglamento General de Protección de Datos. Son planos distintos.

Una herramienta puede tener la documentación sanitaria adecuada y, al mismo tiempo, plantear problemas sobre la base jurídica del tratamiento, la minimización de datos, los accesos, la conservación de la información o las transferencias fuera del Espacio Económico Europeo.

Esto afecta también a los asistentes de transcripción y a las plataformas generativas de uso general. Que una aplicación sea popular o fácil de utilizar no demuestra que tenga certificación como producto sanitario. Tampoco demuestra que pueda recibir información clínica identificable.

La dirección médica, los servicios de tecnologías de la información, los responsables de protección de datos y los profesionales usuarios deben intervenir antes del despliegue. La compra aislada por un servicio clínico crea una zona de riesgo. El problema no es solo técnico. Es organizativo.

La estrategia española: fiabilidad, utilidad, humanismo y universalidad

La Estrategia de Inteligencia Artificial para el Sistema Nacional de Salud, aprobada por el Pleno del Consejo Interterritorial del Sistema Nacional de Salud, se estructura sobre cuatro ejes: fiabilidad, utilidad, humanismo y universalidad.

Los cuatro conceptos tienen una traducción práctica.

Fiabilidad significa que el sistema debe ofrecer resultados reproducibles, documentados y sometidos a control. Un algoritmo no es fiable porque mantenga una demostración comercial convincente. Debe mostrar cómo se ha evaluado y cuáles son sus límites.

Utilidad significa que la herramienta debe mejorar una parte concreta del proceso. La novedad no basta. Si aumenta las alertas, obliga a duplicar registros o no modifica los tiempos asistenciales, la innovación puede convertirse en una carga.

Humanismo sitúa al paciente y al profesional en el centro. La herramienta debe apoyar la atención. No puede convertir al paciente en una fuente pasiva de datos ni al médico en un operador que valida resultados sin examinarlos.

Universalidad obliga a considerar la equidad. Un sistema que funciona bien en un hospital terciario con equipos homogéneos puede rendir peor en otros centros. También puede perjudicar a grupos con menor representación en los datos de entrenamiento.

Esta estrategia ofrece un marco político y asistencial. No elimina la necesidad de evaluar cada producto. Una política nacional no valida automáticamente una aplicación concreta. La evaluación continúa siendo local en un aspecto decisivo: el algoritmo se incorpora a un circuito, a una población y a una estructura profesional determinada.

Validación clínica: el algoritmo debe sobrevivir al hospital real

La validación de algoritmos clínicos tiene varias capas. Confundirlas produce una falsa sensación de seguridad.

La primera es la validación técnica. Mide si el sistema ejecuta correctamente su función bajo unas condiciones definidas. Puede incluir sensibilidad, especificidad, área bajo la curva, calibración o tasa de falsos positivos. Estos indicadores son necesarios. No son suficientes.

La segunda es la validación externa. Comprueba el rendimiento con datos distintos de los utilizados durante el desarrollo. El cambio puede afectar a la población, al hospital, al fabricante del equipo, a la calidad de las imágenes o a la forma de registrar los diagnósticos.

La tercera es la validación clínica. Estudia qué ocurre cuando el sistema entra en el proceso asistencial. El resultado relevante ya no es solo la capacidad de detectar un patrón. También importan el tiempo hasta la decisión, las pruebas adicionales, las biopsias evitadas, los diagnósticos retrasados y la seguridad del paciente.

La cuarta es la evaluación de impacto. Analiza si la herramienta mejora el servicio sin trasladar costes o riesgos a otra parte del sistema. Una reducción del tiempo de lectura puede acompañarse de más pruebas innecesarias. Una mayor detección puede aumentar las derivaciones sin capacidad suficiente para confirmarlas. Un informe más rápido puede requerir una revisión más lenta.

El estudio Vara-PRAIM, publicado en Nature Medicine, analizó 463.094 mamografías y comunicó un aumento del 17,6 % en la detección del cáncer de mama. Es un resultado relevante. También exige lectura precisa. Corresponde a un estudio concreto, una población concreta y un flujo de trabajo concreto. No autoriza a extrapolar el mismo rendimiento a cualquier programa de cribado ni a cualquier sistema de IA en radiología diagnóstica.

Qué debe contener una validación útil

Un hospital necesita algo más que una cifra global. La documentación debe permitir contestar preguntas operativas:

1. Cuál es la población evaluada. Edad, sexo, prevalencia de la enfermedad, comorbilidades y características clínicas modifican el rendimiento.

2. Cuál es el comparador. No es lo mismo comparar la herramienta con una lectura experta que con una práctica asistencial sin doble revisión.

3. Qué desenlace se mide. La precisión diagnóstica no equivale a una mejora en resultados clínicos.

4. Qué errores predominan. Los falsos negativos y los falsos positivos tienen consecuencias diferentes.

5. Qué ocurre cuando faltan datos. El sistema debe gestionar imágenes de mala calidad, información incompleta y casos fuera de distribución.

6. Cómo se comporta con el tiempo. Cambios en los equipos, protocolos y prevalencias pueden producir una degradación del rendimiento.

7. Quién revisa las discrepancias. El circuito debe definir qué sucede cuando el algoritmo y el profesional no coinciden.

La evaluación no termina con la implantación. Los centros necesitan vigilancia poscomercialización y revisión periódica. Una actualización del modelo puede modificar su comportamiento. También puede hacerlo un cambio en el sistema de información hospitalaria o en el protocolo de adquisición de imágenes.

La palabra clave es deriva. El rendimiento de un modelo no permanece fijo por decreto. Cambia cuando cambia el entorno en el que trabaja.

Seleccionar herramientas de IA para médicos sin confundir eficacia y facilidad

Las herramientas de IA para médicos se presentan con frecuencia como soluciones generales. En la práctica, los sistemas útiles suelen resolver tareas más estrechas. Esa limitación no es una debilidad. Es una condición de control.

Un asistente especializado en estructurar informes tiene un perímetro más manejable que una plataforma que pretende interpretar imágenes, consultar literatura, redactar recomendaciones y comunicarse con el paciente. Cuantas más funciones concentra un producto, más difícil resulta delimitar su responsabilidad y evaluar cada salida.

La selección debe incluir al usuario final desde el inicio. Un sistema diseñado sin conocer el circuito real puede introducir pasos duplicados. También puede generar fatiga de alertas. En un servicio hospitalario, una alerta que aparece con demasiada frecuencia deja de ser una señal y se convierte en ruido.

La evaluación técnica y clínica debe ir acompañada de una evaluación del trabajo:

• Cuántos clics añade o elimina.
• Qué datos debe introducir el profesional.
• Si se integra con la historia clínica electrónica.
• Qué sucede ante una caída del sistema.
• Cómo se corrige un error.
• Si queda constancia de la intervención de la herramienta.
• Qué formación necesita el equipo.
• Qué profesional responde ante una incidencia.

La formación médica continuada debe incluir alfabetización algorítmica. No hace falta convertir a cada clínico en ingeniero de datos. Sí hace falta que pueda interpretar sensibilidad, especificidad, valor predictivo, calibración, sesgo de selección y límites de generalización.

Un profesional no puede supervisar una herramienta que no entiende mínimamente. La supervisión humana exige criterio. El criterio exige formación.

Responsabilidad clínica: quién decide cuando el algoritmo se equivoca

El principio operativo es simple: la decisión asistencial sigue siendo humana. El algoritmo puede aportar información. No asume la responsabilidad profesional.

Esto tiene consecuencias para los protocolos. No es suficiente con declarar que existe supervisión. Hay que definirla.

Un protocolo hospitalario debe establecer:

• En qué situaciones se puede utilizar la herramienta.
• Qué profesionales están autorizados.
• Qué información debe revisar el médico antes de aceptar una recomendación.
• Qué resultados obligan a una segunda valoración.
• Cómo se registra la discrepancia entre algoritmo y profesional.
• Cuándo se suspende el uso.
• Cómo se informa de un incidente y quién lo investiga.

La supervisión también debe ser independiente. Si el profesional recibe una recomendación y solo puede aceptarla o rechazarla sin acceder a la información original, la capacidad de control es limitada. Lo mismo ocurre si la interfaz presenta el resultado con una seguridad que el modelo no justifica.

El sesgo de automatización es un riesgo conocido en los sistemas de apoyo a la decisión. El profesional puede conceder más autoridad al resultado automático de la que concedería a una segunda opinión humana. La solución no consiste en repetir que la IA es una ayuda. Consiste en diseñar el circuito para que el profesional pueda revisar los datos primarios, conocer la incertidumbre y justificar la decisión.

La responsabilidad debe quedar acompañada de recursos. No se puede exigir una revisión rigurosa si la herramienta genera cientos de recomendaciones adicionales y el servicio no dispone de tiempo para analizarlas. La supervisión nominal es una forma de transferencia de riesgo al clínico.

Si el hospital no puede explicar quién revisa el algoritmo, cuándo puede apartarse de él y cómo se registra un error, todavía no ha implantado una herramienta clínica. Ha instalado una fuente de decisiones opacas.

Transparencia con el paciente: informar no es decorar el consentimiento

Las pautas del Ministerio de Sanidad y de la estrategia eIASNS establecen la obligación de informar al paciente cuando se utilizan herramientas de IA que forman parte del procedimiento asistencial o del diagnóstico clínico.

La información debe ser comprensible. El paciente necesita saber que una herramienta interviene en el proceso y cuál es su función. No necesita recibir una descripción informática incomprensible. Tampoco debe recibir una promesa de objetividad que la evidencia no permite sostener.

La comunicación debe aclarar varios puntos:

• Qué tarea realiza la herramienta.
• Si el resultado lo revisa un profesional sanitario.
• Qué peso tiene en la decisión final.
• Qué límites se conocen.
• Cómo se protegen los datos.
• Qué alternativa existe si el paciente plantea dudas razonables.

No todas las tecnologías tienen el mismo impacto informativo. Un sistema administrativo que ayuda a ordenar una cita no equivale a un algoritmo que participa en la clasificación diagnóstica. La obligación de transparencia debe ajustarse al papel real del sistema en la atención.

El paciente tampoco debe quedar obligado a aceptar una decisión por el mero hecho de que proceda de una herramienta validada. La transparencia no consiste en transferir autoridad al software. Consiste en hacer visible el proceso asistencial.

Un modelo de implantación por fases

La implementación de IA en hospitales es más segura cuando avanza por fases pequeñas y medibles. El despliegue general desde el primer día dificulta detectar el origen de los errores.

Una secuencia razonable incluye:

1. Definir el problema clínico. El proyecto debe partir de una necesidad concreta y de un desenlace que pueda medirse.

2. Mapear el proceso asistencial. Hay que localizar dónde entra la herramienta, qué datos utiliza y qué profesional recibe la salida.

3. Clasificar el riesgo. La función diagnóstica, de cribado o de recomendación terapéutica sitúa el sistema en un nivel de exigencia elevado.

4. Revisar la documentación. El centro debe comprobar el marcado CE cuando proceda, la finalidad prevista, la evidencia disponible y las condiciones de uso.

5. Realizar una validación local. La población y los equipos del hospital deben estar representados en la evaluación.

6. Empezar con supervisión reforzada. La fase inicial debe permitir revisar resultados, discrepancias e incidentes antes de ampliar el uso.

7. Medir el impacto clínico y organizativo. Tiempo, seguridad, carga de trabajo, pruebas adicionales y resultados del paciente forman parte de la evaluación.

8. Establecer vigilancia continua. El rendimiento debe revisarse después de las actualizaciones y ante cambios del circuito.

9. Informar al paciente. La utilización de IA en el diagnóstico o en el procedimiento asistencial debe comunicarse de forma clara.

10. Definir la retirada. Toda herramienta necesita criterios de suspensión. La innovación sin salida de emergencia es mala gestión.

El proyecto debe tener un responsable clínico. También necesita participación de protección de datos, tecnología, compras, calidad y dirección. La innovación sanitaria no se sostiene en un único servicio entusiasta. Se sostiene en una gobernanza que pueda detectar problemas y actuar.

La eficiencia debe medirse donde importa

La reducción de tiempo es un indicador atractivo. No es el único. En medicina, una mejora administrativa puede ser valiosa, pero no debe confundirse con una mejora clínica.

La evaluación de una herramienta debe incorporar resultados duros:

• Errores diagnósticos detectados y no detectados.
• Tiempo hasta la confirmación diagnóstica.
• Pruebas innecesarias.
• Retrasos producidos por falsos negativos.
• Derivaciones evitadas o generadas.
• Variabilidad entre profesionales.
• Seguridad de grupos poco representados.
• Carga de revisión para el equipo sanitario.
• Incidencias relacionadas con los datos.
• Coste de mantenimiento, formación e integración.

El coste real no es solo la licencia. Incluye infraestructura, interoperabilidad, ciberseguridad, soporte, actualización, evaluación y tiempo profesional. Una herramienta barata puede ser cara si obliga a duplicar tareas o si genera errores difíciles de detectar.

La contradicción financiera es habitual: se compra tecnología para liberar tiempo y se crea un circuito de revisión que consume más horas que el proceso original. Solo la medición local permite saber qué ha ocurrido.

Una innovación que no necesita exageración

La inteligencia artificial ya participa en áreas de apoyo diagnóstico, documentación y gestión clínica. La cuestión no es decidir si existirá. La cuestión es determinar dónde aporta valor y dónde añade riesgo.

Los datos disponibles muestran resultados prometedores en usos concretos. También muestran vacíos de evidencia. El 24,1 % de productos médicos de IA autorizados por la FDA sin estudios clínicos de validación previa obliga a separar autorización, rendimiento y utilidad. Son conceptos distintos.

España cuenta con un marco en construcción. La eIASNS aporta cuatro principios: fiabilidad, utilidad, humanismo y universalidad. El AI Act clasifica los usos médicos de alto riesgo y exige gestión de riesgos, calidad de datos, trazabilidad y supervisión humana. El MDR añade las obligaciones propias de los productos sanitarios. El RGPD mantiene su aplicación sobre los datos personales.

La ruta viable es exigente y poco espectacular. Define el problema. Selecciona una herramienta con finalidad clara. Valida en la población real. Forma al equipo. Informa al paciente. Mide los resultados. Corrige o retira lo que no funciona.

La inteligencia artificial en el diagnóstico clínico será útil cuando mejore una decisión concreta sin ocultar sus límites. Todo lo demás es promoción. En un hospital, la tecnología no se justifica por ser nueva. Se justifica porque aporta evidencia, reduce riesgo y permite que el profesional decida mejor.