En el aprendizaje automático, comprender por qué un modelo toma ciertas decisiones suele ser tan importante como saber si esas decisiones son correctas. Por ejemplo, un modelo de aprendizaje automático podrÃa predecir correctamente que una lesión en la piel es cancerosa, pero podrÃa haberlo hecho usando una señal no relacionada en una foto clÃnica.
