特徵歸因 是什麼？
Feature Attribution：特徵歸因 的完整解釋
量化每個輸入特徵對模型預測結果的貢獻程度，幫助理解和驗證模型的決策依據。
核心概念
特徵歸因基於一個簡單但強大的想法：將模型的預測看作特徵的線性組合（或至少能被分解為特徵的貢獻）。對於分類任務，模型預測為某類別的概率可以分解為「基準預測」加上「各特徵的邊際貢獻」。例如，信用評分模型預測某申請人為「高風險」，可能的貢獻分解為：基準 40% + 收入低 -10% + 債務高 -15% + 工作穩定 +5% = 20% 最終風險。
特徵歸因的關鍵挑戰是多重共線性。在現實資料中，特徵往往相關聯。孤立地改變一個特徵會違反資料的自然分布，導致非現實的邊際貢獻估計。不同歸因方法採用不同的假設來應對這個問題。
運作原理
常見的特徵歸因方法包括：
SHAP（SHapley Additive exPlanations）：基於博弈論的 Shapley 值，為每個特徵分配一個值，使得所有特徵的貢獻之和等於預測與基準的差異。計算上精確但計算量大，適用於特徵數較少的模型。
LIME（Local Interpretable Model-agnostic Explanations）：在特定樣本附近擬合簡單線性模型，用線性模型的係數作為歸因。模型無關、直觀易懂，但只適用於局部解釋。
梯度相關方法（如 Integrated Gradients）：沿著特徵從基準值到實際值的路徑積分梯度，估計特徵的累積影響。對神經網絡特別有效，計算高效。
特徵遮蔽（Feature Occlusion）：依次移除或遮蔽每個特徵，觀察模型預測的變化幅度。變化越大，特徵越重要。實現簡單但對特徵順序敏感。
置換重要性（Permutation Importance）：隨機打亂特徵順序，測量預測性能下降幅度。對所有模型類型都適用，但依賴於特徵相關性。
實際應用
在貸款批准決策中，銀行用機器學習模型評估貸款申請。模型拒絕某筆申請時，特徵歸因可以顯示拒絕的主要原因（如債務收入比過高佔貢獻的 30%、信用評分低佔 25%、就業歷史短佔 20%）。申請人可獲得透明的反饋，瞭解改進的方向。
在醫療診斷中，醫療AI 模型推薦某患者進一步檢查時，特徵歸因可顯示哪些臨床指標驅動了這個建議。例如，「異常高血壓（貢獻 35%）、三酸甘油酯偏高（25%）、家族病史（20%）」共同導致心臟病風險升高。醫生可基於這些歸因信息調整診斷策略。
在欺詐偵測中，交易被標記為可疑時，特徵歸因解釋了哪些交易特徵觸發了警報。若金額大（30% 貢獻）、地點異常（25%）、交易頻率突增（20%）、但持卡人地址和交易歷史正常（負貢獻），系統可判定風險中等，進行二次驗證而非直接拒絕。
在招聘 AI 中，求職者被拒絕時，歸因可顯示「教育背景匹配度 +10%、工作經驗充足 +5%，但技能要求覆蓋不足 -15%、面試表現弱 -10%」，幫助求職者認識自己與職位的適配度差距。
常見誤區
誤區一：特徵歸因值代表特徵的「因果影響」。實際上，歸因是相關性的量化，不是因果性。例如，郵遞區號可能對房價預測有高度貢獻，但改變郵遞區號不會改變房價；真正的因果因素是郵遞區號相關的地理位置、學區等。特徵歸因只能說「該特徵在預測中扮演重要角色」，不能說「該特徵引起了結果」。
誤區二：所有歸因方法都會得到相同答案。實際上，不同方法基於不同假設，在多特徵相關的情況下會產生不同結果。SHAP 假設特徵的邊際貢獻可用 Shapley 值定義，LIME 假設局部線性，兩者的答案可能大幅偏離。應理解方法的假設前提，選擇最符合應用背景的方法。
誤區三：高歸因值的特徵一定是模型的「正確」決策依據。實際上，高歸因值可能反映虛假相關或訓練資料偏差。例如，若訓練資料中「申請人姓名」巧合與貸款批准相關（數據質量問題），模型可能學到這個虛假規律，歸因顯示該特徵高度重要，但實際上這是無意義的相關性。
與相關技術的比較
- 特徵歸因 vs. 特徵選擇：特徵選擇識別哪些特徵對模型有用，特徵歸因量化每個特徵的邊際貢獻。特徵選擇用於減少模型複雜度，特徵歸因用於解釋已訓練的模型。
- 特徵歸因 vs. 注意力視覺化：特徵歸因量化特徵的數值貢獻，注意力視覺化展示模型關注的區域。特徵歸因更定量，注意力視覺化更直觀，兩者常結合使用。
- 特徵歸因 vs. 部分依賴圖（PDP）：特徵歸因說明該特徵對某次預測的貢獻，PDP 展示特徵與預測的平均關係。特徵歸因是樣本級解釋，PDP 是全局解釋。
- 特徵歸因 vs. 反事實解釋：反事實解釋說「若改變特徵 X 為 Y 值，預測會改變」，特徵歸因說「特徵 X 對當前預測的貢獻是多少」。反事實更適合行動建議，歸因更適合決策理由。