Guía docente de Fundamentos de Inteligencia Artificial para Profesionales de Ciencias de la Salud (MD9/56/1/1)

Fundamentos de la inteligencia artificial y análisis de su evolución y aplicación en el ecosistema sanitario. Diferenciación entre estadística descriptiva e inteligencia artificial, estudio de la transición desde los sistemas expertos hasta los modelos basados en datos, el aprendizaje profundo, la inteligencia artificial generativa y la medicina de precisión. Análisis de la inteligencia artificial como herramienta de apoyo o «inteligencia aumentada» y de su aportación a la gestión hospitalaria, el triaje, el diagnóstico y la toma de decisiones clínicas.

Representación computacional del conocimiento clínico mediante datos estructurados y no estructurados, procesamiento del lenguaje natural, estándares de interoperabilidad y terminologías clínicas. Introducción a HL7 FHIR, SNOMED-CT, LOINC, ontologías y grafos de conocimiento.

Fundamentos del aprendizaje automático: aprendizaje supervisado, no supervisado y por refuerzo; modelos de caja blanca y caja negra; árboles de decisión, agrupamiento mediante k-means, redes neuronales y aprendizaje profundo; proceso de entrenamiento y criterios para la selección de algoritmos.

Fundamentos de la inteligencia artificial generativa y de los modelos de lenguaje de gran escala, ingeniería de prompts, modelos generales y clínicos, modelos propietarios y abiertos, especialización mediante prompting, generación aumentada por recuperación —RAG— y ajuste fino. Aplicaciones en la generación de informes, el resumen de historias clínicas y el análisis multimodal, junto con sus riesgos de alucinación, sesgo y privacidad.

Evaluación de sistemas de inteligencia artificial sanitaria mediante la matriz de confusión, las principales métricas de clasificación, las curvas ROC y el AUC. Análisis del sobreajuste, la validación externa, el cambio en la distribución de los datos y la inteligencia artificial explicable.

Experimentación práctica con inteligencia artificial mediante entornos No-Code/Low-Code y programación visual con KNIME Analytics Platform, incluyendo la preparación y exploración de datos, el entrenamiento y evaluación de modelos y la exportación de resultados. 

La asignatura está dirigida a profesionales de las Ciencias de la Salud y presenta progresivamente los conceptos tecnológicos necesarios. No se requieren conocimientos avanzados de programación. Las actividades relacionadas con inteligencia artificial generativa están planteadas para que el profesional sanitario pueda interactuar con estas herramientas sin necesidad de programar, mientras que la experimentación con aprendizaje automático se realiza mediante un entorno visual No-Code/Low-Code.

Para desarrollar la parte práctica será necesario disponer de un equipo informático en el que pueda instalarse KNIME Analytics Platform y acceder a los conjuntos de datos y flujos de trabajo facilitados en el repositorio de la asignatura. Se recomienda que el estudiantado relacione los casos y actividades con su propia experiencia profesional y con situaciones reales de su ámbito asistencial.  

1. Comprender los principios teóricos de la IA y su terminología técnica aplicada a la salud.

2. Identificar las áreas de aplicación de la IA en la práctica clínica actual.

3. Evaluar el potencial de las soluciones de IA para mejorar la eficiencia diagnóstica.

4. Identificar cómo se transforman, estructuran, estandarizan y relacionan los datos clínicos para que puedan ser procesados por sistemas de inteligencia artificial, reconociendo el papel del procesamiento del lenguaje natural, la interoperabilidad, las ontologías y los grafos de conocimiento.

5. Diferenciar los principales paradigmas y algoritmos de aprendizaje automático, seleccionando el enfoque más adecuado según el tipo de problema, los datos disponibles y las necesidades de transparencia e interpretabilidad clínica.

6. Comprender los fundamentos de la inteligencia artificial generativa y de los modelos de lenguaje, diseñar instrucciones o prompts adecuados y valorar sus aplicaciones en la elaboración y síntesis de documentación clínica.

7. Analizar críticamente los riesgos asociados a la inteligencia artificial generativa, especialmente las alucinaciones, los sesgos y los problemas de privacidad, aplicando un enfoque de supervisión profesional o Human-in-the-loop.

8. Interpretar las principales métricas de evaluación de modelos de inteligencia artificial y valorar su rendimiento, capacidad de generalización, explicabilidad y utilidad en un contexto clínico concreto.

9. Diseñar e interpretar flujos de trabajo de inteligencia artificial mediante entornos No-Code/Low-Code, integrando las fases de preparación de datos, entrenamiento, evaluación y exportación de resultados.

10. Aplicar los conocimientos adquiridos al análisis y resolución de casos sanitarios, manteniendo la responsabilidad ética y clínica sobre las decisiones apoyadas por sistemas de inteligencia artificial.

Esta asignatura introduce los conceptos esenciales que permiten entender cómo funcionan los sistemas de inteligencia artificial y sus métricas de rendimiento. El alumnado adquirirá conocimientos sobre cómo se representa el conocimiento en sistemas inteligentes, los diferentes tipos de aprendizaje a partir de datos, cómo se estructuran y entrenan redes neuronales, los fundamentos de la inteligencia artificial generativa y los modelos de lenguaje, entre otros aspectos. Todo ello siempre desde el punto de vista de un profesional de la salud, sin necesidad de conocimientos de programación, capacitándolo para manejar estas técnicas mediante entornos de usuario, comprender el funcionamiento de las herramientas actuales y colaborar en su evaluación e integración en entornos clínicos.

Tema 1. La inteligencia artificial en el ecosistema sanitario

Concepto de inteligencia artificial y diferencias con la estadística descriptiva. Evolución histórica desde los sistemas expertos hasta el aprendizaje automático, el aprendizaje profundo, la inteligencia artificial generativa y la medicina de precisión. La inteligencia artificial como «inteligencia aumentada» y sus principales aplicaciones en el entorno hospitalario.

Tema 2. Representación del conocimiento clínico

Transformación de la realidad clínica en datos procesables. Espacios de características y representación del paciente. Datos estructurados y no estructurados. Procesamiento del lenguaje natural. Interoperabilidad y estándares clínicos, con especial atención a HL7 FHIR, SNOMED-CT y LOINC. Ontologías y grafos de conocimiento.

Tema 3. Fundamentos del aprendizaje automático

Aprendizaje supervisado, no supervisado y por refuerzo. Modelos de caja blanca y caja negra. Árboles de decisión, agrupamiento mediante k-means, neuronas artificiales, redes neuronales y aprendizaje profundo. Proceso de entrenamiento y criterios para la selección de algoritmos.

Tema 4. Inteligencia artificial generativa y modelos de lenguaje en el ámbito clínico

Fundamentos de la inteligencia artificial generativa, modelos de lenguaje y arquitectura Transformer. Ingeniería de prompts. Tipos de modelos de lenguaje y estrategias de especialización mediante prompting, RAG y fine-tuning. Aplicaciones en la elaboración de informes y resúmenes clínicos. Modelos multimodales. Alucinaciones, sesgos, privacidad y supervisión profesional.

Tema 5. Evaluación de sistemas de inteligencia artificial

Matriz de confusión y tipos de error. Exactitud, sensibilidad, especificidad, precisión, F-score, curva ROC y AUC. Sobreajuste, validación externa y dataset shift. Inteligencia artificial explicable, generalización y confianza clínica.

Tema 6. Experimentación con entornos No-Code

Fundamentos de los entornos No-Code/Low-Code. Introducción a KNIME Analytics Platform. Interfaz, nodos, conexiones y flujos de trabajo. Lectura, preparación y exploración de datos, entrenamiento, evaluación y exportación de resultados.

Proyecto integrado: desarrollo y evaluación de un flujo de inteligencia artificial mediante KNIME

Desarrollo de un proyecto integrado mediante KNIME Analytics Platform para la construcción de un flujo de trabajo de inteligencia artificial aplicado a un caso del ámbito sanitario. El proyecto comprenderá la lectura, representación, preparación y exploración de los datos; la selección y aplicación razonada de un algoritmo de aprendizaje automático; el entrenamiento y la generación de predicciones; y la evaluación del modelo mediante la matriz de confusión y las principales métricas de rendimiento.

• Alpaydin, E. (2020). Introduction to Machine Learning (4.ª ed.). MIT Press.
• Amann, J., Blasimme, A., Vayena, E., Frey, D., y Madai, V. I. (2020). Explainability for artificial intelligence in healthcare: A multidisciplinary perspective. BMC Medical Informatics and Decision Making, 20(1), 310.
• Bender, D., y Sartipi, K. (2013). HL7 FHIR: An agile and RESTful approach to healthcare information exchange. En Proceedings of the 26th IEEE International Symposium on Computer-Based Medical Systems (pp. 326-331). IEEE.
• Berthold, M. R., Cebron, N., Dill, F., Gabriel, T. R., Kötter, T., Meinl, T., Ohl, P., Sieb, C., Thiel, K., y Wiswedel, B. (2008). KNIME: The Konstanz Information Miner. En C. Preisach, H. Burkhardt, L. Schmidt-Thieme y R. Decker (Eds.), Data Analysis, Machine Learning and Applications (pp. 319-326). Springer.
• Bishop, C. M. (2006). Pattern Recognition and Machine Learning. Springer.
• Goodfellow, I., Bengio, Y., y Courville, A. (2016). Deep Learning. MIT Press.
• Szolovits, P. (1982). Artificial Intelligence in Medicine. Westview Press.
• Thirunavukarasu, A. J., Ting, D. S. J., Elangovan, K., Gutierrez, L., Ting, T. F., y Ting, D. S. W. (2023). Large language models in medicine. Nature Medicine, 29(8), 1930-1940.
• Topol, E. J. (2019). High-performance medicine: The convergence of human and artificial intelligence. Nature Medicine, 25(1), 44-56.

• Alkaissi, H., y McFarlane, S. I. (2023). Artificial hallucinations in ChatGPT: Implications in scientific writing. Cureus, 15(2), e35179.
• Buchanan, B. G., y Shortliffe, E. H. (1984). Rule-Based Expert Systems: The MYCIN Experiments of the Stanford Heuristic Programming Project. Addison-Wesley.
• Esteva, A., Kuprel, B., Novoa, R. A., Ko, J., Swetter, S. M., Blau, H. M., y Thrun, S. (2017). Dermatologist-level classification of skin cancer with deep neural networks. Nature, 542(7639), 115-118.
• Finlayson, S. G., Subbaswamy, A., Singh, K., Bowers, J., Kupke, A., Zittrain, J., Kohane, I. S., y Kohane, A. L. (2021). The clinician and dataset shift in artificial intelligence. New England Journal of Medicine, 385(3), 283-286.
• Gulshan, V., Peng, L., Coram, M., Stumpe, M. C., Wu, D., Narayanaswamy, A., et al. (2016). Development and validation of a deep learning algorithm for detection of diabetic retinopathy in retinal fundus photographs. JAMA, 316(22), 2402-2410.
• Kelly, C. J., Karthikesalingam, A., Suleyman, M., Corrado, G., y King, D. (2019). Key challenges for delivering clinical impact with artificial intelligence. BMC Medicine, 17(1), 195.
• Kononenko, I. (2001). Machine learning for medical diagnosis: History, state of the art and perspective. Artificial Intelligence in Medicine, 23(1), 89-109.
• Meskó, B. (2023). Prompt engineering as an important emerging skill for medical professionals: Tutorial. Journal of Medical Internet Research, 25, e50638.
• Moor, M., Banerjee, O., Abad, Z. S. H., Krumholz, H. M., Leskovec, J., Topol, E. J., y Rajpurkar, P. (2023). Foundation models for generalist medical artificial intelligence. Nature, 616(7956), 259-265.
• Rajkomar, A., Oren, E., Chen, K., Dai, A. M., Hajaj, N., Hardt, M., et al. (2018). Scalable and accurate deep learning with electronic health records. NPJ Digital Medicine, 1(1), 1-10.
• Ribeiro, M. T., Singh, S., y Guestrin, C. (2016). “Why should I trust you?”: Explaining the predictions of any classifier. En Proceedings of the 22nd ACM SIGKDD International Conference on Knowledge Discovery and Data Mining (pp. 1135-1144).
• Rotmensch, M., Halpern, Y., Tlimat, A., Horng, S., y Sontag, D. (2017). Learning a health knowledge graph from electronic medical records. Scientific Reports, 7(1), 5994.
• Singhal, K., Azizi, S., Tu, T., Mahdavi, S. S., Wei, J., Chung, H. W., et al. (2023). Large language models encode clinical knowledge. Nature, 620(7972), 172-180.
• Vaswani, A., Shazeer, N., Parmar, N., Uszkoreit, J., Jones, L., Gomez, A. N., Kaiser, Ł., y Polosukhin, I. (2017). Attention is all you need. Advances in Neural Information Processing Systems, 30.
• Zech, J. R., Badgeley, M. A., Liu, M., Costa, A. B., Titano, J. J., y Oermann, E. K. (2018). Variable generalization performance of a deep learning model to detect pneumonia in chest radiographs: A cross-sectional study. PLOS Medicine, 15(11), e1002683.

• Página oficial de descarga de KNIME Analytics Platform:
  https://www.knime.com/downloads
• Repositorio de la asignatura con el conjunto de datos y el flujo de trabajo de KNIME:
  https://github.com/sotillo19/FundamentosIA
• Entrevista utilizada para la actividad de reflexión crítica sobre inteligencia artificial y formación sanitaria:
  https://elpais.com/proyecto-tendencias/2025-12-05/julio-mayol-cirujano-experto-en-ia-no-podemos-seguir-formando-a-los-medicos-con-tecnologias-del-pasado.html
• Publicación sobre el estándar HL7 FHIR:
  https://doi.org/10.1109/CBMS.2013.6627810
• Publicación sobre grafos de conocimiento construidos a partir de historias clínicas electrónicas:
  https://doi.org/10.1038/s41598-017-05778-z
• Publicación sobre medicina de altas prestaciones e inteligencia artificial:
  https://doi.org/10.1038/s41591-018-0300-7  

• MD01 Clases magistrales, seminarios y exposiciones multimedia.
• MD02 Clases de ejercicios y resolución de casos prácticos, estudio de casos y discusión de trabajos y artículos.
• MD03 Supervisión de trabajos.
• MD04 Tutorías individuales y/o colectivas programadas.
• MD05 Estudio personal del estudiante.

· Evaluación del Progreso: 30%

· Actividades Prácticas: 40%

· Prueba de Síntesis: 30%

· Evaluación del Progreso: 30%

· Actividades Prácticas: 40%

· Prueba de Síntesis: 30%

· Evaluación del Progreso: 30%

· Actividades Prácticas: 40%

· Prueba de Síntesis: 30%

La asignatura aborda la inteligencia artificial como una herramienta de apoyo a la práctica sanitaria y no como un sustituto del juicio clínico. El profesional sanitario conserva la responsabilidad de interpretar, supervisar y contextualizar las recomendaciones generadas por los sistemas de inteligencia artificial.

Los resultados generados por modelos predictivos o generativos deben someterse a revisión crítica antes de incorporarse a una decisión, documento o actuación clínica. En particular, los borradores de informes, resúmenes de historias clínicas y análisis de imágenes deben ser validados por un profesional cualificado mediante un procedimiento Human-in-the-loop.

En el uso de herramientas de inteligencia artificial generativa deberán respetarse la privacidad de los pacientes, la confidencialidad de la información y la normativa de protección de datos. No deberán introducirse datos clínicos identificables o información sanitaria protegida en interfaces públicas que no ofrezcan las garantías necesarias.

La utilización de entornos No-Code/Low-Code reduce la barrera técnica de la programación, pero no elimina la necesidad de rigor metodológico. La selección y preparación de los datos, la división correcta de las muestras, la evaluación del rendimiento, la interpretación clínica de los resultados y la documentación de las decisiones siguen siendo elementos esenciales.

Las actividades prácticas se orientan a la trazabilidad y reproducibilidad de los experimentos y a la colaboración entre profesionales sanitarios y perfiles técnicos.