黑箱模型 是什麼？

Black Box Model：黑箱模型 的完整解釋

黑箱模型是指其內部運作機制對使用者而言不透明的模型，難以理解輸入與輸出之間的具體關係。

容易混淆

黑箱模型 vs 白箱模型 黑箱模型難追原因，白箱模型則能直接看出決策規則。

可解釋性 vs 準確率 準確率是在看做得對不對，可解釋性是在看能不能說明為什麼。

解釋結果 vs 模型本體 有些方法只是後處理解釋，不代表模型本身就透明。

記住這句就好

先看它要解決的是什麼問題，再看它是不是最合適的方法。

實際案例

案例 1：信用評分 客戶被拒絕時，銀行通常需要知道主要影響因子，而不是只拿到一個分數。

案例 2：醫療影像 醫師要看模型為什麼判定異常，才能決定要不要進一步檢查。

深入了解

面向	重點
常用方法	LIME、SHAP、特徵重要度、注意力可視化、反事實解釋。
適用情境	法規要求高、風險高、需要人工審核的場景特別需要。
限制	局部解釋不等於全局理解，解釋也可能不穩定。

黑箱、白箱、灰箱

要注意黑箱不是指「不能看內部」。深度模型的每一個權重都可以印出來，問題是幾十億個數字對人類沒有任何意義。黑箱指的是規模造成的不可理解，不是保密。

也不是所有黑箱都同樣不透明。一棵決策樹是白箱，一千棵組成的隨機森林就變成灰箱，因為單棵可讀但整體投票的結果無法用一句話說明。

什麼時候不能用黑箱

這是實務上真正要判斷的問題。準確度通常隨著模型變黑而上升，所以取捨是真實的。

法規要求說明時不能用。 GDPR 第 22 條對自動化決策賦予當事人要求說明的權利。金融業的信用評分、保險核保在很多地區都有明確的可解釋性要求。

錯誤代價極高時要謹慎。 醫療診斷、司法輔助、自駕決策，出錯時必須能追出原因才能改善與究責。

需要人來覆核時要謹慎。 如果流程設計是 AI 給建議、人做決定，那人必須看得懂建議的依據，否則覆核只是形式，實際上是全自動。

可以放心用黑箱的情況： 錯誤代價低、可以用結果驗證、沒有法規約束。推薦系統、廣告排序、影像去噪、字幕生成都屬於這一類。

讓黑箱可解釋的三類手段

事後解釋（post-hoc）。 模型照樣是黑箱，另外做工具去解釋它。常見的有 LIME、SHAP、注意力視覺化、顯著圖（saliency map）。優點是不影響效能，缺點是解釋本身是近似的，不保證忠實反映模型真正的計算。

本質可解釋（intrinsic）。 一開始就選白箱模型或設計成可解釋的結構。可信度最高，代價是效能上限較低。

代理模型（surrogate）。 用一個簡單模型去模仿黑箱的行為，再解讀簡單模型。要注意代理模型只在它擬合得好的區域裡可信。

選擇的原則：法規或安全上必須交代的場景，優先用本質可解釋；只是內部除錯與建立信任，事後解釋通常夠用。

情境判斷

Q1（判斷題）： 如果模型很準但誰都看不懂，還能直接上線嗎？ → 看情境，像廣告排序可能可以，但在醫療、金融這類高風險場景就不行。

Q2（判斷題）： 如果解釋方法說模型最看重某個特徵，就一定是真的嗎？ → 不一定，因為後處理解釋可能受方法本身影響。

常見問題

怎麼提高可解釋性？

可以選較透明的模型，也可以對黑箱模型加上 LIME、SHAP 這類方法。

可解釋性越高越好嗎？

不一定，通常要在可解釋性、性能和成本之間找平衡。

黑箱模型一定不能用嗎？

不是，當任務很複雜且對準確率要求高時，黑箱模型仍然很常用。