Los marcos éticos internacionales han abordado de forma general los desafíos que plantea la inteligencia artificial (IA) en medicina, pero las recomendaciones prácticas orientadas a minimizar el daño a los pacientes siguen siendo escasas. En este contexto, un equipo del grupo Biomedical Data Science Laboratory (BDSLAB), perteneciente al Instituto ITACA de la Universitat Politècnica de València (UPV), ha liderado un estudio internacional que sienta las bases para el desarrollo de sistemas de IA seguros, confiables y éticamente responsables en el ámbito sanitario.
El trabajo, publicado en Artificial Intelligence in Medicine, propone un total cuatro ejes y 14 requisitos de diseño de software orientados a minimizar los riesgos que las soluciones clínicas basadas en IA pueden suponer para los pacientes. En la práctica, ofrece una guía de implementación práctica para los creadores de soluciones clínicas basadas en IA que mitigue los riesgos de daño a los pacientes desde el principio de su diseño, así como un catálogo de requisitos a exigir por las instituciones clínicas a la hora de adquirir software basado en IA aplicable a sus pacientes.
La investigación liderada por Juan Miguel García-Gómez, Vicent Blanes y Ascensión Doñate, del BDSLAB-ITACA de la UPV, parte de una realidad cada vez más evidente: el impacto de la IA en la atención sanitaria, especialmente en áreas como el diagnóstico, la monitorización, el cribado y, en general, el apoyo a la toma de decisiones clínicas. Pero su implementación plantea serios desafíos éticos, técnicos y de seguridad. De hecho, explica García-Gómez, investigador principal del BDSLAB y autor principal del estudio, “el Servicio de Estudios del Parlamento Europeo ha identificado siete grandes riesgos que la IA puede entrañar para los pacientes: errores en las predicciones, mala praxis, sesgos, falta de transparencia, falta de privacidad, ausencia de responsabilidades y dificultades en la implementación”.
Para dar respuesta a estos retos, los investigadores han desarrollado un conjunto de requisitos técnicos que pueden implementarse y que complementan las directrices éticas promovidas por la Comisión Europea. Dichos requisitos se estructuran en torno a cuatro ejes clave: confiabilidad, transparencia, trazabilidad y responsabilidad. “Nuestro objetivo es mitigar el riesgo de los daños potenciales que el software médico basado en IA pueda causar, mediante la integración de requisitos de ingeniería que garanticen sistemas más seguros y responsables”, subraya García-Gómez.
En concreto, apunta García-Gómez, “en el eje de confiabilidad, hemos identificado los requerimientos de realizar una evaluación continua del rendimiento de los modelos IA, pruebas continuas de usabilidad por los usuarios clínicos, comprobar el cifrado y uso de bibliotecas confiables y asegurar la interoperabilidad semántica de los modelos”.
La unión de Ministerio y CCAA consolida la Estrategia de Salud Digital del SNS, Las historias clínicas robadas valen 10 veces más que los datos de una tarjeta de crédito en el mercado negro, Luis Carretero: "La transformación digital no es informatizar lo que ya hacemos" Para aumentar su transparencia, añade, “los modelos IA deben venir a acompañados de un pasaporte, deben ser explicables, los datos con los que han sid Para facilitar que clínicos y desarrolladores apliquen estos requerimientos en la práctica, ya se ha puesto a disposición de la comunidad la plantilla del Pasaporte IA. Off Enrique Mezquita Off
Javier Ruiz Poza, quinta generación de farmacéuticos.
Raúl Incertis con el médico de urgencias Mohammed Tahir, en el Hospital Indonesio (Jabalia, Gaza, abril 2025). Foto: RAÚL INCERTIS.
Diccionario de 1789 propiedad del primer farmacéutico de la saga, Manuel Castañer. Foto: Libro ‘ESTIRPES FARMACÉUTICAS DE ARAGÓN’.
Con la mirada puesta en el marco geopolítico y las decisiones que marcan el paso que provienen del otro lado del Atlántico, la industria farmacéutica española ha hecho repaso de una situación que gira en torno a la incertidumbre. Más allá de considerarlo como una amenaza, la presidenta de
Crecimiento del mercado en julio. Fuente: FEFE.
Evolución de la muerte por calor en 2025. Fuente: MOMO ISCIII. Ilustración: A. MATILLA/ EL MUNDO.
La delegación del Consejo General de COF, encabezada por Jesús Aguilar, en Copenhague. Foto: CONSEJO GENERAL DE COF.
Copenhague acoge el 83 Congreso Mundial de Farmacia, organizado por la Federación Internacional Farmacéutica (FIP). Foto: FIP.
Farmacia Ruiz-Seiquer, en Murcia.
Personal investigador que lidera el proyecto reunido en el ISCIII. Foto: CIBERISCIII
Farmacia Paz en A Pobra de Trives (Ourense). Foto cedida por la titular de la farmacia.