法国学者：最优传输理论下对抗攻击可解释性探讨

本文分享论文『When adversarial attacks become interpretable counterfactual explanations』,最优传输理论下对抗攻击可解释性。

 

详细信息如下：

作者来自法国图卢兹第三大学与IRT Saint-Exupéry 研究所。

论文链接：https://arxiv.org/pdf/2206.06854.pdf

 

该论文是关于对抗攻击理论性的文章，作者为对抗攻击提供了非常可靠的解释性。当前最优传输理论是深度学习理论中非常热门一个的方向，作者从最优传输理论的角度去分析对抗攻击的现象。当学习具有最优传输问题对偶损失的神经网络时，模型的梯度既是最优传输方案的方向，也是最接近对抗样本的方向。
沿着梯度移动到决策边界不再是一种对抗攻击，而是一种反事实的解释，即可以看作明确地从一个类传输到另一个类。通过对可解释AI度量的大量实验可以发现，应用于最优传输网络的简单显著性映射方法是一种可靠的解释，并且在无约束模型上优于最新的解释方法。