反事實解釋 是什麼？
Counterfactual Explanation — 反事實解釋 的完整解釋
反事實解釋描述了為了改變模型預測結果，輸入數據需要做的最小變動。它提供了一種理解模型決策邏輯的方式。
容易混淆
feature-importance vs 特徵重要性 (Feature Importance)：特徵重要性像告訴你「哪些因素對結果影響最大」，但不會告訴你具體要怎麼改；反事實解釋則更直接，它不僅指出重要因素，還明確告訴你「這些因素需要改變多少，才能達到你想要的結果」，提供可操作的建議。 常見混淆：反事實解釋 vs feature-importance 特徵重要性只說哪些因素重要，反事實解釋會說要改哪些條件才會變結果。
記住這句就好
問它怎麼變結果，不是只問它為什麼。
實際案例
信貸申請 系統顯示收入再高一點或負債再低一點，就可能通過。 醫療分流 如果危險指標下降到某個門檻，病人就可能從急診轉普通觀察。
算法與應用
- 好的反事實解釋要改得少，還要真的能做到，不然只是紙上談兵。
- 它通常會追求鄰近性和可操作性，讓建議既接近原本資料，也能落地。
- 如果背景限制很多，反事實結果可能和特徵重要性不一樣，兩者用途不同。
情境判斷
Q1：使用者想知道為什麼貸款沒過，最能直接回應他的解釋是哪一種？ → 反事實解釋，因為它會告訴你改哪些條件才可能過件。 Q2：如果改動一個特徵就要花很大代價，這樣的反事實還有用嗎？ → 要看情況，理論上可以解釋模型，但實務上可能不夠可操作。
相關術語
常見問題
如何評估反事實解釋的質量？
評估反事實解釋的質量可以從多個方面入手，包括有效性（反事實是否確實導致模型產生目標預測結果）、鄰近性（反事實與原始輸入數據的相似程度）、稀疏性（反事實中發生變動的特徵數量）和可操作性（反事實中提出的變動是否易於實現）。
反事實解釋與特徵重要性有什麼區別？
特徵重要性衡量每個特徵對模型預測的整體影響，而反事實解釋則針對特定輸入數據，指出需要改變哪些特徵才能獲得期望的結果。反事實解釋更具體，可以直接提供可操作的建議。
生成反事實解釋有哪些挑戰？
生成反事實解釋的挑戰包括：如何定義合適的距離函數、如何選擇有效的優化算法、如何處理高維數據、如何確保解釋的穩定性和可操作性，以及如何避免偏見。