解析:
反事實解釋回答的是「如果某些條件改變,結果會如何不同?」這類問題。在金融場景中,就是分析客戶申請資料的哪些變動會改變授信決策結果,幫助客戶理解如何獲得不同結果。
反事實解釋描述了為了改變模型預測結果,輸入數據需要做的最小變動。它提供了一種理解模型決策邏輯的方式。|本頁含完整原理、應用場景、iPAS 考試重點與 3 個常見問答。
搜尋意圖: 如果你在找「反事實解釋 是什麼」或「反事實解釋 和相近概念差在哪」,先看這頁的短定義、完整說明與延伸比較。
TL;DR: 反事實解釋描述了為了改變模型預測結果,輸入數據需要做的最小變動。它提供了一種理解模型決策邏輯的方式。
實用情境: 適合用在閱讀 AI 文章、產品文件或和同事討論時,先用一頁快速對齊概念。
下一步: 先讀完定義,再往下看範例考題與延伸比較,把概念轉成可作答的判斷。
你有沒有在你收到模型拒絕或通過的結果,想知道要改哪裡才會變成另一種判斷時,還在想這件事到底該怎麼看?
把它想成一張「如果改這些條件,就會變結果」的說明卡。 它不只告訴你模型怎麼想,還會告訴你最小要改動哪些輸入。 這種解釋很適合拿來做申訴、流程修正和使用者回饋。
就像先用生活中的例子抓住核心用途,再回頭看名詞和公式,理解會穩很多。
feature-importance vs 特徵重要性 (Feature Importance):特徵重要性像告訴你「哪些因素對結果影響最大」,但不會告訴你具體要怎麼改;反事實解釋則更直接,它不僅指出重要因素,還明確告訴你「這些因素需要改變多少,才能達到你想要的結果」,提供可操作的建議。 常見混淆:反事實解釋 vs feature-importance 特徵重要性只說哪些因素重要,反事實解釋會說要改哪些條件才會變結果。
問它怎麼變結果,不是只問它為什麼。
信貸申請 系統顯示收入再高一點或負債再低一點,就可能通過。 醫療分流 如果危險指標下降到某個門檻,病人就可能從急診轉普通觀察。
- 好的反事實解釋要改得少,還要真的能做到,不然只是紙上談兵。
- 它通常會追求鄰近性和可操作性,讓建議既接近原本資料,也能落地。
- 如果背景限制很多,反事實結果可能和特徵重要性不一樣,兩者用途不同。
Q1: 使用者想知道為什麼貸款沒過,最能直接回應他的解釋是哪一種?
Q2: 如果改動一個特徵就要花很大代價,這樣的反事實還有用嗎?
評估反事實解釋的質量可以從多個方面入手,包括有效性(反事實是否確實導致模型產生目標預測結果)、鄰近性(反事實與原始輸入數據的相似程度)、稀疏性(反事實中發生變動的特徵數量)和可操作性(反事實中提出的變動是否易於實現)。
特徵重要性衡量每個特徵對模型預測的整體影響,而反事實解釋則針對特定輸入數據,指出需要改變哪些特徵才能獲得期望的結果。反事實解釋更具體,可以直接提供可操作的建議。
生成反事實解釋的挑戰包括:如何定義合適的距離函數、如何選擇有效的優化算法、如何處理高維數據、如何確保解釋的穩定性和可操作性,以及如何避免偏見。
在金融業導入 AI 模型與可解釋性技術時,反事實解釋(Counterfactual Explanation)最符合下列哪一種應用?
解析:
反事實解釋回答的是「如果某些條件改變,結果會如何不同?」這類問題。在金融場景中,就是分析客戶申請資料的哪些變動會改變授信決策結果,幫助客戶理解如何獲得不同結果。