反事實解釋(Counterfactual Explanation)是什麼?

反事實解釋描述了為了改變模型預測結果,輸入數據需要做的最小變動。它提供了一種理解模型決策邏輯的方式。|本頁含完整原理、應用場景、iPAS 考試重點與 3 個常見問答。

英文
Counterfactual Explanation
主題標籤
機器學習、AI倫理與治理、模型評估
考點定位
非 iPAS 核心術語
最後更新
2026/06/17
反事實解釋(Counterfactual Explanation)是什麼? 機器學習AI倫理與治理
術語快查

搜尋意圖: 如果你在找「反事實解釋 是什麼」或「反事實解釋 和相近概念差在哪」,先看這頁的短定義、完整說明與延伸比較。

TL;DR: 反事實解釋描述了為了改變模型預測結果,輸入數據需要做的最小變動。它提供了一種理解模型決策邏輯的方式。

實用情境: 適合用在閱讀 AI 文章、產品文件或和同事討論時,先用一頁快速對齊概念。

下一步: 先讀完定義,再往下看範例考題與延伸比較,把概念轉成可作答的判斷。

你有沒有在你收到模型拒絕或通過的結果,想知道要改哪裡才會變成另一種判斷時,還在想這件事到底該怎麼看?

把它想成一張「如果改這些條件,就會變結果」的說明卡。 它不只告訴你模型怎麼想,還會告訴你最小要改動哪些輸入。 這種解釋很適合拿來做申訴、流程修正和使用者回饋。

就像先用生活中的例子抓住核心用途,再回頭看名詞和公式,理解會穩很多。

容易混淆

feature-importance vs 特徵重要性 (Feature Importance):特徵重要性像告訴你「哪些因素對結果影響最大」,但不會告訴你具體要怎麼改;反事實解釋則更直接,它不僅指出重要因素,還明確告訴你「這些因素需要改變多少,才能達到你想要的結果」,提供可操作的建議。 常見混淆:反事實解釋 vs feature-importance 特徵重要性只說哪些因素重要,反事實解釋會說要改哪些條件才會變結果。

記住這句就好

問它怎麼變結果,不是只問它為什麼。

實際案例

信貸申請 系統顯示收入再高一點或負債再低一點,就可能通過。 醫療分流 如果危險指標下降到某個門檻,病人就可能從急診轉普通觀察。

算法與應用

  1. 好的反事實解釋要改得少,還要真的能做到,不然只是紙上談兵。
  2. 它通常會追求鄰近性和可操作性,讓建議既接近原本資料,也能落地。
  3. 如果背景限制很多,反事實結果可能和特徵重要性不一樣,兩者用途不同。

情境判斷

Q1: 使用者想知道為什麼貸款沒過,最能直接回應他的解釋是哪一種?

反事實解釋,因為它會告訴你改哪些條件才可能過件。

Q2: 如果改動一個特徵就要花很大代價,這樣的反事實還有用嗎?

要看情況,理論上可以解釋模型,但實務上可能不夠可操作。

常見問題

如何評估反事實解釋的質量?

評估反事實解釋的質量可以從多個方面入手,包括有效性(反事實是否確實導致模型產生目標預測結果)、鄰近性(反事實與原始輸入數據的相似程度)、稀疏性(反事實中發生變動的特徵數量)和可操作性(反事實中提出的變動是否易於實現)。

反事實解釋與特徵重要性有什麼區別?

特徵重要性衡量每個特徵對模型預測的整體影響,而反事實解釋則針對特定輸入數據,指出需要改變哪些特徵才能獲得期望的結果。反事實解釋更具體,可以直接提供可操作的建議。

生成反事實解釋有哪些挑戰?

生成反事實解釋的挑戰包括:如何定義合適的距離函數、如何選擇有效的優化算法、如何處理高維數據、如何確保解釋的穩定性和可操作性,以及如何避免偏見。

範例考題

在金融業導入 AI 模型與可解釋性技術時,反事實解釋(Counterfactual Explanation)最符合下列哪一種應用?

  • A. 分析整體客戶群的信用風險分布,以預測未來違約率趨勢
  • B. 回溯歷史呆帳案例,辨識造成違約的主要影響因素
  • C. 分析在模型不變的前提下,客戶申請資料變動對授信決策結果的影響 ✓ 正確答案
  • D. 依據客戶輪廓與行為資料,推薦最適合的金融商品以提升交叉銷售

解析:

反事實解釋回答的是「如果某些條件改變,結果會如何不同?」這類問題。在金融場景中,就是分析客戶申請資料的哪些變動會改變授信決策結果,幫助客戶理解如何獲得不同結果。