En el aprendizaje automático, comprender por quĂ© un modelo toma ciertas decisiones suele ser tan importante como saber si esas decisiones son correctas. Por ejemplo, un modelo de aprendizaje automático podrĂa predecir correctamente que una lesiĂłn en la piel es cancerosa, pero podrĂa haberlo hecho usando una señal no relacionada en una foto clĂnica.