斑馬識別成狗，AI犯錯的原因被斯坦福找到了

明明是只斑馬，AI為什麼說它是一條狗？

分類模型在歸類圖像時有時會錯誤地判斷類別。

經過學習的AI，還會搞砸一些預測，肯定是在其中的某個環節出現了紕漏。

斯坦福大學的兩比特博士生和教授James Zou在一篇論文中，帶我們探究了分類模型犯錯的原因。

隨後，論文提出一種方法——反事實的概念性解釋（Conceptual Counterfactual Explanations），並評估了它的效果。

通過這種方法，我們就能重新定義模型的分類標准，從而解釋AI犯錯的原因。

 

論文鏈接：https://arxiv.org/pdf/2106.12723.pdf