La inteligencia artificial comienza a incorporarse a distintos procesos asistenciales, desde el análisis de imágenes hasta la elaboración de resúmenes clínicos o la predicción de riesgos.
Ante esta evolución, la Secretaría General de Salud Digital, Información e Innovación del Sistema Nacional de Salud ha elaborado una nueva guía dirigida a los profesionales que seleccionan, supervisan o utilizan herramientas de IA en la atención sanitaria.
El documento establece una serie de pautas para garantizar un uso seguro y responsable de estas tecnologías y pone el foco en aspectos como la supervisión humana, la protección de los datos de los pacientes, la validación de las herramientas y la formación de los profesionales.
“La incorporación de la inteligencia artificial a la práctica sanitaria abre nuevas posibilidades para mejorar y agilizar determinados procesos, pero también plantea la necesidad de establecer criterios claros sobre cómo y cuándo deben utilizarse estas herramientas. Esta guía supone un paso importante para avanzar hacia una integración de la IA que combine innovación, seguridad y responsabilidad profesional”, señala Ruth Cuscó, directora gerente de ASHO.
La IA como apoyo, no como sustituto del médico
Una de las principales recomendaciones de la guía es que la inteligencia artificial debe utilizarse como una herramienta de apoyo a la decisión clínica, pero nunca sustituir el criterio del profesional. Antes de incorporar una recomendación generada por IA, el médico debe revisarla, contrastarla con la evidencia disponible y valorar si resulta adecuada para las circunstancias concretas del paciente.
“La IA puede ayudar a procesar información y agilizar determinados procesos sanitarios, pero el profesional debe mantener en todo momento la capacidad de revisar, cuestionar y, cuando sea necesario, rechazar el resultado generado por la herramienta”, explica Ruth Cuscó, directora gerente de ASHO.
La guía también establece que no deben introducirse datos personales o clínicos identificables en herramientas que no estén autorizadas para su utilización sanitaria o que no ofrezcan las garantías necesarias en materia de protección de datos.
¿Quién responde si la IA se equivoca?
El documento también aborda las implicaciones legales del uso de estas tecnologías. La inteligencia artificial no tiene personalidad jurídica y, por tanto, su utilización no traslada la responsabilidad de una decisión clínica al algoritmo.
Según las circunstancias, esta puede recaer en el profesional o en la institución sanitaria, sin perjuicio de la posible responsabilidad del fabricante o proveedor cuando exista un defecto del sistema.
Por ello, la guía incide en la necesidad de que los profesionales conozcan las limitaciones de las herramientas, supervisen sus resultados y puedan justificar las decisiones adoptadas cuando se hayan apoyado en sistemas de IA. En caso de que una recomendación generada por la herramienta contradiga el criterio médico o la evidencia disponible, el profesional deberá priorizar la seguridad del paciente, documentar la discrepancia y evitar basar su decisión exclusivamente en el resultado del algoritmo.