LIME 是什麼？

Local Interpretable Model-agnostic Explanations：LIME 的完整解釋

LIME 針對單筆預測，以局部線性模型近似複雜黑箱模型的行為，提供與模型無關的可解釋性

容易混淆

LIME vs SHAP LIME 做局部近似，SHAP 做特徵貢獻分配。 一個重速度和直覺，一個重理論與穩定性。

LIME vs 特徵重要性 特徵重要性常看整體，LIME 常看單筆。 一個回答模型平常怎麼想，一個回答這一次怎麼想。

最關鍵的區別： LIME 是單筆局部解釋，不是整體規則。

記住這句就好

先看這一筆附近，再解釋模型為什麼這樣判斷。

實際案例

信用審核 當客戶被拒絕時，LIME 可以指出影響最大的條件，像是逾期紀錄、負債比或收入不足。

醫療影像 醫師想知道模型為何判成肺炎，LIME 可以標出影像裡最敏感的區塊。

算法與應用

它會對原始樣本附近做擾動，產生一批鄰近樣本，再用黑箱模型去打分。 接著用簡單模型去近似這些鄰近樣本的行為，得到局部解釋。 這種方法快、直觀，但不是模型真實內部邏輯。

LIME 的名字就是它的做法

這個縮寫的四個字各自對應一個設計決定，拆開來看就懂它在做什麼。

Local（局部）。 它不解釋整個模型，只解釋「這一筆預測為什麼是這個結果」。因為複雜模型的整體行為不可能用簡單規則描述，但在單一資料點的附近，行為往往接近線性。

Interpretable（可解釋）。 產出的解釋是人看得懂的形式，例如「這幾個詞讓它判成垃圾郵件」「這幾塊像素讓它判成狼」。

Model-agnostic（模型無關）。 它把模型當黑箱，只透過「餵輸入、收輸出」來分析。所以任何模型都能用，不需要看內部權重。

Explanations（解釋）。

實際運算的四個步驟

第一步，擾動。 針對要解釋的那一筆資料，產生大量的變化版本。文字就隨機拿掉一些詞，影像就把某些區塊（superpixel）遮掉，表格資料就對特徵值加擾動。

第二步，取得預測。 把這些變化版本全部餵進黑箱模型，記下輸出。

第三步，加權。 離原資料越近的擾動樣本權重越高，因為 LIME 只想描述這個點附近的行為。

第四步，配一個簡單模型。 用這些加權樣本訓練一個線性回歸或簡單決策樹。這個簡單模型的係數，就是解釋。

要注意的兩個限制。 第一，因為擾動是隨機的，同一筆資料跑兩次可能得到不太一樣的解釋，穩定性是 LIME 常被批評的地方。第二，「附近」的範圍由一個核寬度參數決定，這個參數沒有理論上的最佳值，換一個值解釋就會變。

常被拿來比較的是 SHAP：SHAP 有博弈論的理論基礎、結果一致且可加總，但計算成本高很多。實務上快速看趨勢用 LIME，要能對外交代用 SHAP。

情境判斷

Q1（直覺題）： 你只想知道某一筆貸款為什麼被拒，該先看哪種解釋方法？

→ LIME 很適合，因為它主打單筆局部解釋。

Q2（判斷題）： LIME 跑出來的解釋，就等於模型真正的決策規則嗎？

→ 不是，它只是近似，所以要把它當成解讀工具，而不是模型內部原理。

LIME 在 iPAS 考試中的重點

根據歷年統計，LIME 相關題目 平均佔 AI 技術類考題 4%， 屬於未分類考範圍。

常見出題方向：可解釋人工智慧 (XAI) 的技術原理（40%）、LIME 演算法的運作機制與數學基礎（35%）、模型解釋性評估與實務應用（25%）。

常見問題

LIME 可以解釋所有模型嗎？

大多數情況下可以，因為它是 model-agnostic，不綁特定模型。

LIME 的結果穩定嗎？

不是每次都完全一樣，因為它依賴局部擾動，結果會受抽樣影響。

什麼時候不適合只用 LIME？

當你需要全局規則、很高穩定性，或要做嚴格審計時，通常還要搭配別的方法。