Guía docente de Ética y Responsabilidad en en el Uso de la Inteligencia Artificial (MD9/56/1/6)

La Inteligencia Artificial (IA) está transformando de forma acelerada la práctica clínica, la investigación biomédica, la gestión sanitaria y la salud pública. Desde sistemas de apoyo al diagnóstico por imagen hasta modelos predictivos para medicina personalizada, pasando por herramientas de procesamiento del lenguaje natural aplicadas a la documentación clínica o algoritmos para la estratificación del riesgo, la IA representa una de las principales palancas de innovación en los sistemas sanitarios.

Sin embargo, la utilización de estas tecnologías también plantea importantes retos relacionados con la protección de los derechos fundamentales, la privacidad, la transparencia, la explicabilidad de los algoritmos, la equidad en el acceso a la asistencia sanitaria, la prevención de sesgos discriminatorios y la determinación de responsabilidades cuando los sistemas automatizados producen errores o daños.

Esta asignatura proporciona una visión integral de los principios éticos y jurídicos que deben regir el diseño, desarrollo, validación, implantación y utilización de sistemas de Inteligencia Artificial en el ámbito sanitario.

Asimismo, la asignatura pretende fomentar una actitud crítica y reflexiva frente a los desafíos derivados de la digitalización de la salud, promoviendo una cultura de innovación responsable basada en el respeto a la dignidad humana, la autonomía del paciente, la seguridad clínica y la protección de los derechos fundamentales.

Los generales del Máster

C03: Conoce las implicaciones éticas y clínicas que se derivan del uso de datos y herramientas de Inteligencia Artificial en el ámbito de la Salud.

COM02: Interpreta resultados de Inteligencia Artificial y otras fuentes para la toma de decisiones clínicas adaptadas a cada paciente.

 COM03: Asesora a profesionales sanitarios, pacientes y cuidadores sobre aplicaciones, beneficios y limitaciones de la Inteligencia Artificial en Salud.

 HD03: Elaborar informes sobre implicaciones éticas, responsabilidades y cumplimiento normativo del uso de Inteligencia Artificial en el ámbito de la Salud.

HD05: Crea materiales informativos para pacientes y cuidadores sobre riesgos, limitaciones e implicaciones prácticas de la Inteligencia Artificial.

Al finalizar la asignatura el estudiante será capaz de:

1. Evaluar dilemas éticos en el uso de algoritmos predictivos.
2. Garantizar la transparencia y explicabilidad de las soluciones de IA.
3. Promover la equidad en el acceso a tecnologías de salud digital.

El propósito de esta asignatura es abordar los dilemas éticos que plantea la IA en salud, como la privacidad, la equidad, la transparencia y la rendición de cuentas. Se analizan guías internacionales y buenas prácticas para incorporar principios éticos en todas las etapas del ciclo de vida de soluciones basadas en inteligencia artificial. El alumnado aprenderá a identificar sesgos, evaluar impactos sociales y a asesorar a profesionales, pacientes y cuidadores sobre las aplicaciones y limitaciones de la tecnología. Asimismo, se capacitará al estudiante para elaborar informes sobre responsabilidades para promover un uso que respete los derechos de pacientes y profesionales.

Programa:

Tema 1. ÉTICA EN EL ÁMBITO DE LA INTELIGENCIA ARTIFICIAL SANITARIA

INTRODUCCIÓN   

1. La experiencia moral.

1.1.         Su irreductibilidad

1.2.         Momentos del análisis del acto moral.

1.2.1. Los hechos.

1.2.2. Los valores.

1.2.3. Los deberes.

2.  La responsabilidad moral como deliberación prudencial

3. La IA en el ámbito de la salud desde la ética

Conclusiones

Bibliografía

 Tema 2. INTELIGENCIA ARTIFICIAL Y ECOSISTEMA DE DATOS DE SALUD: ENTRE LA INNOVACIÓN SANITARIA Y LA PROTECCIÓN DE LOS DERECHOS FUNDAMENTALES

Introducción

Objetivos

Contenidos

1.      El dato de salud: régimen de protección reforzada.

1.1.         Conceptos clave en el ecosistema del dato de salud. 

1.2.         Concepto de dato de salud.

1.3.         Taxonomía de la información sensible.

1.3.1. Datos genéticos, biométricos y neurodatos.

1.3.2. La historia clínica.

1.3.3. Salud digital: Wearables, apps y datos de vida cotidiana.

2.      Arquitectura normativa: Del marco europeo al nacional.

2.1.         El Reglamento General de Protección de Datos como pilar del sistema

2.1.1.     Principios rectores: de la licitud a la responsabilidad proactiva

2.1.2.     Bases de legitimación: el levantamiento de la prohibición general de tratamiento de datos de salud. 

2.2.         La convergencia con el modelo europeo de datos: El impacto del Data Act y el Espacio Europeo de Datos de Salud.

2.3.         Marco nacional específico.

2.3.1.     Ley Orgánica de Protección de Datos y garantía de los derechos digitales.

2.3.2.     Ley 41/2002 reguladora de la Autonomía del Paciente. 

3.      Gobernanza del dato: Garantías y medidas de protección.

3.1. Salvaguardas Técnicas

3.1.1. Disociación de la información: anonimización vs. seudonimización. La publicidad diferencial.

3.1.2. Cifrado y resiliencia de los sistemas de información.

3.1.3. Trazabilidad y control de acceso granular.

3.2. Medidas organizativas y accountability.

3.2.1. La evaluación de impacto (EIPD) como herramienta preventiva. 

3.2.2. La figura estratégica del Delegado de Protección de Datos (DPD).

3.2.3. Auditorías.

3.3. Privacidad desde el diseño y por defecto: Integrando el Derecho desde la arquitectura técnica.

4.      El Estatuto de Derechos del Paciente en relación con sus datos personales en el entorno digital.

4.1.  El ejercicio de los derechos de acceso, rectificación, supresión, oposición, limitación y portabilidad

4.2.  El «derecho al olvido» sanitario

4.3.  Garantías frente al algoritmo: Protección ante decisiones automatizadas y elaboración de perfiles

Ideas clave

Referencias Bibliográficas

Tema 3. RIESGOS Y RESPONSABILIDAD EN EL USO DE LA INTELIGENCIA ARTIFICIAL SANITARIA

Introducción

Objetivos

Contenidos

1.      Mapa de riesgos en la Inteligencia Artificial sanitaria.

1.1.         Dimensión técnica.

1.1.1.     Errores algorítmicos y fallos de diseño.

1.1.2.     Dependencia de la calidad de los datos (Data Quality).

1.2.         Desafíos éticos.

1.2.1.             Deshumanización de la medicina. 

1.2.2.     Pérdida de la autonomía del paciente.

1.3.         Perspectiva jurídica.

1.3.1.     Vulneración de la protección de datos sanitarios.

1.3.2.     Sesgos y discriminación algorítmica.

1.3.3.     Falta de transparencia y opacidad (el fenómeno de la «caja negra»).

1.4.         Brechas de seguridad.

1.4.1.     Ataques de confrontación e inyección de datos (adversarial attacks).

1.4.2.     Filtración de datos sanitarios y sabotaje de sistemas operativos.

2.      Régimen jurídico de la responsabilidad e imputación de daños.

2.1.         El ecosistema de responsables: una pluralidad de actores.

2.2.         Responsabilidad civil y patrimonial en el ámbito sanitario.

2.2.1.     Responsabilidad por culpa. 

2.2.2.     Responsabilidad objetiva. 

2.3.         Responsabilidad administrativa y potestad sancionadora: el papel de las autoridades de control en protección de datos. 

2.3.1.     El marco del Reglamento General de Protección de Datos (RGPD) y la LOPDGDD.

2.3.2.     El papel de las Autoridades de Control.

2.4.         Reparación específica de daños por discriminación algorítmica.

2.4.1.     La naturaleza del daño por discriminación algorítmica.

2.4.2.     Mecanismos de reparación específica y la inversión de la carga de la prueba.

2.5.         El nuevo marco europeo sobre responsabilidad por productos defectuosos aplicada a la IA sanitaria: Análisis de la Directiva (UE) 2024/2853.

2.5.1.     El software y la IA como «producto».

2.5.2.     Modificaciones clave para proteger al paciente sanitario.

Ideas clave

Referencias Bibliográficas

·       Presentación: Funcionamiento de un Comité de Ética de Investigación con especial atención a cuáles son los aspectos que evalúa respecto al empleo de IA en salud.

·       Visionado: La protección de datos y el uso de la IA en el ámbito sanitario: https://media.uc3m.es/video/633bd5008f4208f9308b456d

·       Lectura. Ética y Gobernanza de la Inteligencia Artificial en el ámbito de la Salud. Orientaciones de la OMS. 2021:https://iris.who.int/server/api/core/bitstreams/e81cceea-1124-4df3-983b-55b1ffde0f1d/content

·       Visionado. La evolución del sistema normativo sobre IA y responsabilidad por los daños causados por sistemas IA: https://www.youtube.com/watch?v=4oDRI_lgF5A

• Plataforma Virtual:

o   Estudio de casos e identificación de los potenciales riesgos éticos de la investigación en humanos cuando se emplean sistemas de inteligencia artificial. 

o   Estudio de casos y redacción de informe de vulnerabilidad de impacto humano (evaluación ético-técnica) en sistemas de diagnóstico o de asignación de órganos asistidos por inteligencia artificial.

o   Cuestionarios

o   Elaboración de informe de impacto en protección de datos

o   ALKORTA IDIAKEZ, I. (2024), La discriminación algorítmica en el sector sanitario, en Inteligencia artificial y derecho de daños: Cuestiones actuales: Acorde al Reglamento (UE) 2024/1689, 1-30

o   AAVV; Ética de la inteligencia artificial. (2026) Dykinson (https://repositorio.comillas.edu/jspui/handle/11531/110136?utm_source=copilot.com#:~:text=enlazar%20este%20%C3%ADtem%3A-,http%3A//hdl.handle.net/11531/110136,-T%C3%ADtulo%20%3A%C2%A0).

o   COLEGIO OFICIAL DE MÉDICOS DE MÁLAGA Y FUNDACIÓN UNICAJA. (2025) El Libro Blanco de la IA en Medicina. Fundación Unicaja.

o   LAZCOZ MORATINOS, G. (2025). Sistemas de inteligencia artificial en la asistencia sanitaria: cómo garantizar la supervisión humana desde la normativa de protección de datos, Revista de Derecho y Genoma Humano, 61, 199-261

o   PHAM, T. (2025), Ethical and legal considerations in healthcare AI: innovation and policy for safe and fair use, Royal Society. Open Science. 12:24187, 1-24 (https://doi.org/10.1098/rsos.241873).

o   RAMÓN FERNÁNDEZ, F. (2026). «Datos de salud y datos biométricos: la protección de los datos especialmente sensibles», en Perspectivas transversales del derecho a la protección de datos personales: Desafíos en la era digital, Madrid, ed. Colex, 17-32.

o   UNESCO. (2021) Recomendación sobre la ética de la inteligencia artificial.  UNESCO.

o   WEINER E.B., DANKWA-MULLAN I., NELSON W.A., HASSANPOUR S. (2025), Ethical challenges and evolving strategies in the integration of artificial intelligence into clinical practice. PLOS Digit Health 4(4): e0000810. https://doi.org/10.1371/journal.pdig.0000810

AGENCIA ESPAÑOLA DE PROTECCIÓN DE DATOS (2024). Guía para profesionales del sector sanitario, accesible en https://www.aepd.es/guias/guia-profesionales-sector-sanitario.pdf

AGENCIA ESPAÑOLA DE PROTECCIÓN DE DATOS (2020). Adecuación al RGPD de tratamientos que incorporan Inteligencia Artificial. Una introducción, accesible en https://www.aepd.es/guias/adecuacion-rgpd-ia.pdf

AGENCIA ESPAÑOLA DE PROTECCIÓN DE DATOS (2020). Guía de Protección de Datos por defecto, accesible en https://www.aepd.es/guias/guia-proteccion-datos-por-defecto.pdf

-. Colón-Rodríguez CJ (2023) Shedding Light on Healthcare Algorithmic and Artificial Intelligence Bias US. Department of Office of Minority Health. Available at: tps://minorityhealth.hhs.gov/news/shedding-light-healthcare-algorithmic-and-artificial-intelligence-bias

ENISA (2022). La adopción de técnicas de seudonimización. El caso del sector sanitario https://www.aepd.es/documento/tecnicas-seudonimizacion-sector-sanitario-enisa.pdf

- IRECS. La IA en la atención sanitaria: cuestiones éticas . Una introducción para estudiantes, investigadores y expertos en revisión ética.

o   Directrices de ética para una IA fiable (Comisión Europea): https://digital-strategy.ec.europa.eu/es/library/ethics-guidelines-trustworthy-ai

o   Recomendación sobre la ética de la inteligencia artificial (UNESCO): https://unesdoc.unesco.org/ark:/48223/pf0000381137_spa

o   Inteligencia artificial en medicina: una guía ética y práctica para la asistencia sanitaria, la investigación y la docencia (2026): https://doi.org/10.1016/j.edumed.2025.101143

• MD01 Clases magistrales, seminarios y exposiciones multimedia.
• MD02 Clases de ejercicios y resolución de casos prácticos, estudio de casos y discusión de trabajos y artículos.
• MD03 Supervisión de trabajos.
• MD04 Tutorías individuales y/o colectivas programadas.
• MD05 Estudio personal del estudiante.

Instrumento y Porcentaje 

·      Asistencia y participación activa (debate-reflexión) en el desarrollo de las sesiones síncronas: 10%.

·      Realización de cuestionarios y actividades online, a través de la plataforma del Campus Virtual, en sesiones síncronas: 40 %.

·      Participación, elaboración y resolución de casos, cuestionarios, defensa y debate sobre lecturas recomendadas en sesiones asíncronas, sesiones de tutorización o realizadas online a través de las herramientas del Campus virtual: 50% 

Rúbrica de Evaluación: Nivel y Criterios 

·      Excelente (9-10) - Dominio completo de los contenidos. - Excelente capacidad crítica. - Argumentación rigurosa. - Uso correcto del marco jurídico. - Soluciones innovadoras. - Excelente redacción y referencias. 

·      Bueno (7-8) - Comprensión sólida. - Buena aplicación práctica. - Escasas incorrecciones. - Argumentación consistente. 

·      Aceptable (5-6) - Conocimientos suficientes. - Aplicación limitada. - Argumentación básica. - Algunas deficiencias conceptuales. 

·      Insuficiente (<5) - Desconocimiento de conceptos esenciales. - Incapacidad para aplicar el marco ético-jurídico. - Errores relevantes.

Instrumento y Porcentaje 

· Prueba a través de las herramientas del Campus virtual: 50% 

·      Asistencia y participación activa (debate-reflexión) en el desarrollo de las sesiones síncronas: 10%.

·      Realización de cuestionarios y actividades online, a través de la plataforma del Campus Virtual, en sesiones síncronas: 40 %.

Rúbrica de Evaluación: Nivel y Criterios 

·      Excelente (9-10) - Dominio completo de los contenidos. - Excelente capacidad crítica. - Argumentación rigurosa. - Uso correcto del marco jurídico. - Soluciones innovadoras. - Excelente redacción y referencias. 

·      Bueno (7-8) - Comprensión sólida. - Buena aplicación práctica. - Escasas incorrecciones. - Argumentación consistente. 

·      Aceptable (5-6) - Conocimientos suficientes. - Aplicación limitada. - Argumentación básica. - Algunas deficiencias conceptuales. 

·      Insuficiente (<5) - Desconocimiento de conceptos esenciales. - Incapacidad para aplicar el marco ético-jurídico. - Errores relevantes.

Instrumento y Porcentaje 

·      Pruebas  a través de las herramientas del Campus virtual: 100% 

Rúbrica de Evaluación: Nivel y Criterios 

·      Excelente (9-10) - Dominio completo de los contenidos. - Excelente capacidad crítica. - Argumentación rigurosa. - Uso correcto del marco jurídico. - Soluciones innovadoras. - Excelente redacción y referencias. 

·      Bueno (7-8) - Comprensión sólida. - Buena aplicación práctica. - Escasas incorrecciones. - Argumentación consistente. 

·      Aceptable (5-6) - Conocimientos suficientes. - Aplicación limitada. - Argumentación básica. - Algunas deficiencias conceptuales. 

·      Insuficiente (<5) - Desconocimiento de conceptos esenciales. - Incapacidad para aplicar el marco ético-jurídico. - Errores relevantes.