A partir del 2 de agosto, la Ley Europea de Inteligencia Artificial (AI Act) entra en vigor. Por este motivo, desde finales de mayo Open Evidence, una plataforma de inteligencia artificial diseñada específicamente para ayudar a profesionales de la salud a tomar decisiones clínicas basadas en evidencia científica validada, ha dejado de operar en Europa antes de tener que asumir las limitaciones impuestas por dicha ley.
En este contexto, los profesionales sanitarios españoles han dejado de contar con esta herramienta. ¿Qué opciones tienen ahora? Este cierre no va a suponer que no se usen otras herramientas, sino que habrá que llenar ese vacío. “Nos obliga a hacer lo que deberíamos haber hecho antes: definir qué herramientas de apoyo a la decisión clínica se despliegan en nuestro sistema, con qué garantías, y bajo qué supervisión”, afirma Carlos Gallego, Director de Salud Digital del IDI-Gencat.
Está claro que el médico va a seguir utilizando herramientas basadas en IA, pero, en opinión de Juan Carlos Oliva, miembro de la Junta Directiva y del Comité Técnico de Inteligencia Artificial de la SEIS y Director Gerente de Fundación Rioja Salud, “las más fiables serán aquellas que combinen modelos generativos con IA específicas entrenadas con guías de práctica clínica, protocolos asistenciales, trazabilidad y supervisión profesional”
Entonces, ¿vamos tarde? Sí y no. Regular y definir criterios en el sistema de salud lleva su tiempo y la industria va muy deprisa. Pero “es la administración quien ha de facilitar las herramientas” a los profesionales, dice Gallego. Sin embargo, en opinión de Oliva, la IA aplicada a la sanidad está madurando y es necesario diferenciar herramienta de propósito general y productos sanitarios. “En sanidad la velocidad no puede ser el único criterio. Una herramienta clínica debe demostrar seguridad, explicabilidad, trazabilidad, validez clínica y cumplimiento regulatorio”, remarca Oliva. “La cuestión no es incorporar la IA cuanto antes, sino incorporarla bien”, añade. Las prisas no son buenas, y un error en el entorno sanitario afecta a todo el sistema, afectando a profesionales y pacientes. “Por eso es preferible incorporar una solución unos meses más tarde, pero con garantías, que hacerlo antes sin validación suficiente”, señala Oliva.
Aplicar la regulaciónEl artículo 13 de la UE AI Act ya clasifica los sistemas de apoyo a la decisión clínica como sistemas de alto riesgo, con obligaciones de transparencia algorítmica, así como la validación clínica. La regulación es necesaria, aunque no suficiente. El problema, dice Gallego, es que falta capacidad institucional para aplicar dicha regulación. “Para implantar la IA en sanidad hay que gobernarla”, afirma Oliva. Porque no es suficiente con autorizar una herramienta, sino que también hay que definir su uso, cómo se valida, se integra y se monitoriza y quién responde si falla.
La IA entra en consulta… y la OMC le pone normas, La inteligencia artificial en salud: el reto de incorporar nuevos perfiles al sistema, La oportunidad es ahora: por qué Europa puede liderar la inteligencia artificial en sanidad Además, desde la administración se deben crear planes de formación y concienciación para los profesionales bajo el marco normativo actual. Ahora mucho Los expertos abogan por una integración de herramientas certificadas y el apoyo al profesional para saber cuándo utilizarla y monitorizarla. Off Sara Domingo Off
Manuel Anxo Blanco Ramos, director ejecutivo de Policy y Market Access de Organon.
