deep-learning - 如何基于 XAI 方法提高模型的性能

Question

我正在学习可解释的 AI (XAI)，我读过的一些论文说我们可以使用 XAI 来提高模型的性能。这似乎是一个相当新的问题，因为我认为当模型已经收敛时，不可能找到新的全局最小值，这与上述说法相矛盾。我想问一下是否有任何方法可以改进与 XAI 方法相关的模型结果？如果有，它们是如何工作的？太感谢了！！

Answer 1

XAI 方法主要有助于基于更好的理解和更快的调试来改进模型。因此，作为工程师，您可以使用有针对性的措施来改进模型。

据我所知，只有一项科学工作（见下文）直接在模型的训练过程中使用了 XAI 方法的解释。本质上，该论文提出了一种新颖的推理方法。首先，模型做出决定。然后，计算该决定的解释。然后，同一个（或可能是另一个）模型使用原始输入和解释来做出最终决定，即在某种意义上，网络“反映”/考虑其最初的决定及其做出最终决定的原因结论。

Schneider 等人的“反射网络：从解释中学习”。 https://arxiv.org/abs/2011.13986

免责声明：我是该论文的发明者和第一作者。