Inteligencia artificial explicable para explorar la variabilidad espacial del pulmón y los bronquios. Publicado originalmente en Short. Sweet. Valuable..
Imagen creada con DALL-E 3 por el autor
Tradicionalmente, la IA aplicada a la salud ha sido una «caja negra»: ofrece diagnósticos o recomendaciones de tratamiento sin una explicación clara.
La inteligencia artificial explicable (XAI) está cambiando este enfoque, especialmente en la atención oncológica, donde entender el «por qué» es tan importante como conocer el «qué».
La XAI se refiere a sistemas de inteligencia artificial diseñados para ofrecer explicaciones comprensibles de sus operaciones, decisiones y resultados.
IA tradicional frente a IA explicable | Fuente
Sus objetivos principales incluyen:
- Transparencia
- Interpretabilidad
- Confianza
¿Por qué necesitamos XAI? Pensemos en el cáncer de pulmón, la principal causa de muerte por cáncer en el mundo.
Los sistemas de IA han supuesto un gran avance para ayudar a detectar esta enfermedad en tomografías computarizadas, con una precisión sorprendentemente alta.
Detección de cáncer de pulmón con IA | Fuente
Pero la XAI va un paso más allá: explica qué hay detrás de su diagnóstico y destaca patrones concretos en el tejido pulmonar, lo que proporciona a las personas especialistas en oncología información sobre el proceso analítico.
Explainable artificial intelligence (XAI) for exploring spatial variability of lung and bronchus… El aprendizaje automático (ML) ha demostrado ser prometedor para predecir la mortalidad; sin embargo, entender la variación espacial…
De acuerdo, pero si el algoritmo funciona, ¿por qué importa cómo?
Veamos un ejemplo práctico:
Imagina a una médica que utiliza un sistema de IA para detectar cáncer de pulmón a partir de tomografías de pacientes. El algoritmo indica que una persona tiene un riesgo alto de cáncer de pulmón, pero no aporta ninguna explicación de su conclusión.
A la médica le resulta difícil interpretar esa decisión generada por IA y se enfrenta a varios problemas:
- Incertidumbre al tomar decisiones: duda a la hora de basar una decisión crítica en una evaluación sin explicación.
- Dificultad para comunicarse con la persona paciente: le cuesta explicar por qué la IA ha indicado un riesgo alto de cáncer.
- Falta de confianza en el sistema: sin explicaciones claras, es difícil confiar en la evaluación de la IA.
Médico confundido | Fuente