完整定義
反事實解釋是一種解釋機器學習模型決策的方法,它通過描述為了改變模型的預測結果,輸入數據需要做的最小變動來工作。它回答了“如果…會怎樣?”的問題,例如,“如果我的信用評分提高50分,貸款申請會被批准嗎?”反事實解釋有助於理解模型決策的邏輯,並識別影響預測結果的關鍵因素。
白話說明
你有沒有在你收到模型拒絕或通過的結果,想知道要改哪裡才會變成另一種判斷時,還在想這件事到底該怎麼看?
把它想成一張「如果改這些條件,就會變結果」的說明卡。
它不只告訴你模型怎麼想,還會告訴你最小要改動哪些輸入。
這種解釋很適合拿來做申訴、流程修正和使用者回饋。
記住這句
問它怎麼變結果,不是只問它為什麼。
比喻:反事實解釋就像告訴你「如果當初這樣做,結果就會不一樣」 -- 比如你的貸款被拒絕了,它會告訴你「如果你月收入再高一點,或是信用分數再多幾分,你的貸款就會通過」。這讓你清楚知道,要改變結果需要調整哪些關鍵因素。
容易混淆
feature-importance
vs 特徵重要性 (Feature Importance):特徵重要性像告訴你「哪些因素對結果影響最大」,但不會告訴你具體要怎麼改;反事實解釋則更直接,它不僅指出重要因素,還明確告訴你「這些因素需要改變多少,才能達到你想要的結果」,提供可操作的建議。
常見混淆:反事實解釋 vs feature-importance
特徵重要性只說哪些因素重要,反事實解釋會說要改哪些條件才會變結果。
實際案例
信貸申請
系統顯示收入再高一點或負債再低一點,就可能通過。
醫療分流
如果危險指標下降到某個門檻,病人就可能從急診轉普通觀察。
演算法與應用
1. 好的反事實解釋要改得少,還要真的能做到,不然只是紙上談兵。
2. 它通常會追求鄰近性和可操作性,讓建議既接近原本資料,也能落地。
3. 如果背景限制很多,反事實結果可能和特徵重要性不一樣,兩者用途不同。
情境判斷
Q1:使用者想知道為什麼貸款沒過,最能直接回應他的解釋是哪一種?
反事實解釋,因為它會告訴你改哪些條件才可能過件。
Q2:如果改動一個特徵就要花很大代價,這樣的反事實還有用嗎?
要看情況,理論上可以解釋模型,但實務上可能不夠可操作。
常見問題
評估反事實解釋的質量可以從多個方面入手,包括有效性(反事實是否確實導致模型產生目標預測結果)、鄰近性(反事實與原始輸入數據的相似程度)、稀疏性(反事實中發生變動的特徵數量)和可操作性(反事實中提出的變動是否易於實現)。
特徵重要性衡量每個特徵對模型預測的整體影響,而反事實解釋則針對特定輸入數據,指出需要改變哪些特徵才能獲得期望的結果。反事實解釋更具體,可以直接提供可操作的建議。
生成反事實解釋的挑戰包括:如何定義合適的距離函數、如何選擇有效的優化算法、如何處理高維數據、如何確保解釋的穩定性和可操作性,以及如何避免偏見。
範例考題
在金融業導入 AI 模型與可解釋性技術時,反事實解釋(Counterfactual Explanation)最符合下列哪一種應用?
- A分析整體客戶群的信用風險分布,以預測未來違約率趨勢
- B回溯歷史呆帳案例,辨識造成違約的主要影響因素
- C分析在模型不變的前提下,客戶申請資料變動對授信決策結果的影響
- D依據客戶輪廓與行為資料,推薦最適合的金融商品以提升交叉銷售
正解是 C:分析在模型不變的前提下,客戶申請資料變動對授信決策結果的影響
解析:反事實解釋回答的是「如果某些條件改變,結果會如何不同?」這類問題。在金融場景中,就是分析客戶申請資料的哪些變動會改變授信決策結果,幫助客戶理解如何獲得不同結果。
出現在這些考古題
官方公告試題的逐題解析裡,這 2 題把反事實解釋列為延伸術語。
相關術語
來源
這個術語目前沒有標註外部來源。
其他格式:Markdown 版本