搜尋意圖： 如果你在找「反事實推理 是什麼」或「反事實推理 和相近概念差在哪」，先看這頁的短定義、完整說明與延伸比較。
TL;DR： 基於對現實世界的因果理解，推測「如果過去發生不同的事，現在會是什麼樣」的推理方式。
實用情境： 適合用在閱讀 AI 文章、產品文件或和同事討論時，先用一頁快速對齊概念。
下一步： 先讀完定義，再往下看延伸比較與對應工具，把概念轉成實際應用。
基於對現實世界的因果理解，推測「如果過去發生不同的事，現在會是什麼樣」的推理方式。
反事實推理（Counterfactual Reasoning）代表人類認知的一項高級能力：想像「如果...會如何」的假設情景。與純粹的邏輯或統計相比，反事實推理涉及因果理解，使得智能體能預測干預效果、評估決策責任、進行假設分析與反思學習。在現代 AI 中，反事實推理成為實現可解釋性與公平性的關鍵工具。
反事實與因果模型的關係
反事實推理必須建立在因果模型的基礎上。給定對世界的因果理解（表示為結構因果模型 SCM），反事實陳述形如「若在過去改變 X，現在 Y 將為 Y'」。這涉及三個步驟（Pearl 框架）：
第一步（更新）：基於觀測到的資料 Z = z，更新對模型背景變數的認知分布 P(U | Z = z)。
第二步（干預）：進行反事實干預 do(X = x')，改寫因果模型中 X 的方程。
第三步（預測）：在干預後的模型與更新的背景變數分布下，推導 Y 的分布，得出 Y_x' 的值。
例如，「若患者昨天沒有服藥，今日的血壓會更高」這個反事實陳述，需要：第一，根據患者的實際病歷資訊，推估其潛在健康狀態（背景變數）；第二，在模型中設定「不服藥」的干預；第三，計算在不服藥情況下的預期血壓。
反事實解釋的應用
在 AI 模型的可解釋性中，反事實解釋（counterfactual explanation）提供了一種直觀的解釋方式。例如，貸款申請被拒絕，傳統解釋可能是「你的信用分數太低」（基於模型輸入特徵）；反事實解釋則是「若你的信用分數提高 50 分，申請會被批准」或「若你的年收入增加 $20,000，申請會被批准」。這類解釋直接告訴用戶「改變什麼能得到不同結果」，相比特徵重要性或決策邊界的解釋更具可操作性。
反事實解釋的計算涉及尋找最相近的「反事實樣本」：與被解釋樣本差異最小，但導致模型不同決策的樣本。演算法上，可透過優化問題解決：最小化被解釋樣本與反事實樣本的距離，同時確保模型在反事實樣本上的預測不同。
因果責任與反事實因果性
在倫理與法律中，反事實推理用於判定因果責任。例如，一起車禍中，若醫療檢查員說「即使沒有被撞，駕駛者也會因心臟病發作而失控」，則撞擊在因果上不是事故的原因。形式上，反事實因果性（counterfactual causation）定義為：事件 A 是 B 的因果原因，當且僅當「若不發生 A，B 將不發生」（the but-for test）。AI 應用中，這個原理用於判定模型決策是否因某特徵造成（如演算法歧視），或該特徵改變後決策是否會改變。
反事實與强化學習
在強化學習與最優控制中，反事實推理用於離線政策評估（offline policy evaluation）與政策改進。當已有歷史行動日誌，但無法在線進行新政策實驗時，反事實推理可估計新政策的效果：給定歷史中採取的行動，反推如果採用新政策會得到什麼獎勵。這在推薦系統、醫療決策支持等領域極為重要：不能實驗的領域需要精準估計干預效果。
反事實與公平性
在公平性檢測中，反事實分析揭示決策中的隱性偏見。例如，若銀行拒絕少數族群的貸款申請，但反事實分析表明「若改變該申請者的族群身份而保持其他特徵不變，申請會被批准」，則該決策系統存在直接歧視。基於反事實的公平性定義（counterfactual fairness）要求：給定受保護特徵（如性別、種族）改變但其他因果祖先不變的反事實世界，模型的決策不應改變。
實踐挑戰
反事實推理的挑戰在於：第一，需要準確的因果模型，而因果模型往往基於專家假設，可能有誤；第二，反事實樣本可能位於資料分布的邊界或外，模型在此區域的行為可能不可靠；第三，多維反事實（同時改變多個特徵）的搜尋空間極大，計算成本高。
在 iPAS AI 應用規劃師考試中，反事實推理是因果推斷與可解釋性考題的進階內容，要求考生理解反事實陳述的形式、在實務中的應用場景、以及與決策責任、公平性的聯繫。
常見問題
反事實解釋和特徵重要性解釋有什麼區別？
特徵重要性解釋（如 SHAP、Permutation Importance）回答「哪些特徵對模型決策貢獻最大」；反事實解釋回答「改變什麼特徵值能改變決策」。兩者視角不同：特徵重要性關注「為什麼是這個決策」，基於模型的統計依賴；反事實解釋關注「怎樣改變才能得到不同決策」，基於因果邏輯。例如，信用評分模型中，特徵重要性可能顯示「年收入最重要」，反事實解釋則可能是「若年收入增加 $15,000，貸款申請會被批准」或「若信用歷史記錄刪除某筆逾期，申請會被批准」。對於用戶而言，反事實解釋更可操作、更能指引決策；但反事實的計算依賴因果模型，在模型不完全時風險更高。
如果我的因果模型錯了，反事實推理的結論還有意義嗎？
沒有。反事實推理的有效性完全依賴於因果模型的正確性。若因果模型的結構或參數有誤，推導出的反事實結論可能與現實相悖。例如，若模型假設「投廣告 → 銷售」但實際上「高銷售週期 → 廠商更願意投廣告」（反向因果），基於錯誤模型的反事實分析「若增加廣告，銷售會增加」就是誤導。這是反事實方法的根本風險。在實務中，應對策略包含：第一，透過領域專家與文獻驗證因果模型；第二，進行敏感性分析，測試模型假設改變對反事實結論的影響；第三，在模型不確定時，報告反事實結論的範圍而非單點估計；第四，與實驗或隨機試驗的結果對比驗證。
反事實推理和想像不同的人生道路有什麼不同？
本質上相同，只是形式不同。人類在日常中經常進行反事實推理：「若我高中多用功讀書，現在可能進了更好的大學」或「若昨天沒遲到，不會被開除」。這些都是隱含的因果推理，基於對世界運作方式的直觀理解。科學與 AI 中的反事實推理則是將這種直觀的推理形式化為數學模型（如因果圖、結構方程），使其可計算、可驗證、可應用到複雜決策中。形式化的好處是：可減少認知偏誤（人類的直觀反事實推理往往有系統性誤差）、能處理多因素交互的複雜場景、以及能量化不確定性。但風險是，如果形式化的因果假設錯誤，可能比直觀推理更具誤導性。