可解釋機器學習（Interpretable Machine Learning）是什麼？

設計和使用易於人類理解決策過程的機器學習模型，透過明確的特徵-預測映射提高透明性與信任度。

核心概念

可解釋機器學習分為兩大類方法：本質上可解釋的模型和事後解釋技術。

本質上可解釋的模型是指模型結構本身就易於理解，如決策樹（清晰的分支邏輯）、線性迴歸（特徵係數直接反映影響）、規則学習（if-then 規則清晰表述決策邏輯）。這些模型犧牲了表達力，但獲得了透明性。

事後解釋技術則是先訓練任意模型（包括複雜的黑盒模型），再用額外技術解釋其預測。例如，用特徵歸因量化特徵貢獻，用注意力視覺化展示模型焦點。

可解釋性的程度常用三個維度衡量：

• 全局解釋：模型整體如何做決策（如「貸款決策最重要的因素是收入與債務比」）
• 局部解釋：某個具體預測的理由（如「該申請人被拒因為債務高且工作經驗短」）
• 反事實解釋：「若改變某特徵，預測如何改變」（如「若收入增加 20%，預測會從拒絕變為批准」）

運作原理

可解釋機器學習的實現方法多元：

• 模型選擇：優先採用本質可解釋的模型（決策樹、線性模型、規則學習），僅當必要時才用黑盒模型
• 特徵工程：用有意義的特徵命名和轉換，避免模型使用難以解釋的中間表達
• 限制模型複雜度：淺決策樹、低階多項式、稀疏線性模型都比複雜模型更易解釋
• 事後解釋：用 SHAP、LIME、梯度視覺化等技術解釋黑盒模型
• 驗證與審計：定期檢查模型是否學到合理的特徵關係（如檢查線性模型的係數符號是否符合領域知識）
• 人類在迴路：在關鍵決策點加入人類評審，驗證模型的推理邏輯

實際應用

在銀行信貸系統中，監管要求銀行能解釋為何拒絕某個貸款申請。傳統做法用邏輯規則（「債務收入比 > 50% 自動拒絕」），易於解釋但容易犯錯。現代方法是用可解釋機器學習模型（如正則化線性模型或決策樹），模型既能捕捉複雜的風險因素，又能清楚地說明每個案例的拒絕理由。申請人可獲得「您被拒絕的主要原因是收入低（貢獻 40%）和近期多次欠付（貢獻 35%）」的反饋。

在醫療診斷中，可解釋性至關重要。若 AI 系統推薦進行腫瘤切除，醫生需要理解推薦的依據。可解釋模型會列舉「影像中的 3 個異常區域」「腫瘤標誌物異常升高」「患者年齡組別的高風險」等可驗證的理由，讓醫生能進行專業判斷。

在犯罪風險評估中，法院用可解釋模型評估被告的再犯風險。模型應透明地呈現「教育程度」「就業狀況」「犯罪歷史」等因素的相對重要性，避免隱藏的偏見（如種族代理變數）影響量刑。

在內容推薦中，雖然複雜的神經網絡通常預測準確，但用戶不理解為何被推薦某商品會降低信任。可解釋推薦系統會說明「基於您的購買歷史」「類似用戶也喜歡這個商品」「該商品評分高」，提高用戶接受度。

常見誤區

誤區一：可解釋性會嚴重犧牲性能。實際上，現代可解釋模型（如正則化線性模型、梯度提升樹）在許多任務上的性能已接近黑盒模型。在不同應用中，可解釋性與性能的權衡點不同；在數據量充足且特徵清晰的任務，可解釋模型往往不落後。

誤區二：任何模型加上解釋技術就是「可解釋」。實際上，事後解釋的品質取決於方法的合理性。某些解釋技術在特定場景下可能給出誤導結果（如對高度多重共線性特徵的歸因）。應理解解釋方法的假設與限制，而非盲目相信解釋輸出。

誤區三：可解釋性等於公平性。可解釋模型能揭示偏見但不自動消除偏見。一個清晰易懂的有偏見模型仍然有偏見，甚至因為易懂而更容易被接受。可解釋性是實現公平的必要條件，但不充分。

與相關技術的比較

• 可解釋機器學習 vs. 黑盒模型：黑盒模型（深度學習、複雜集成）性能往往更優但難以解釋，可解釋模型易於理解但性能可能略低。在高風險決策中應優先可解釋性，在非決策任務（如圖像生成）可接受黑盒。
• 可解釋機器學習 vs. 因果推斷：可解釋機器學習關注相關性的透明化，因果推斷追求因果關係的識別。因果方法更嚴謹但要求更多先驗知識。
• 可解釋機器學習 vs. 人工規則系統：人工規則清晰但難以維護且容易遺漏邊界情況，可解釋機器學習從資料學習又保持透明性，是更優的折中。
• 可解釋機器學習 vs. 深度學習可解釋性：深度學習可解釋性（注意力、梯度視覺化）努力解釋複雜模型，可解釋機器學習從根本上選擇簡單模型。兩者互補，具體選擇取決於性能 vs. 透明性的優先級。