部分相依性圖（Partial Dependence Plot）是什麼？

視覺化機器學習模型中某個特徵與預測結果的邊際關係，展現改變該特徵值如何影響預測。

核心概念

部分相依性解決的核心問題是：在一個多變量複雜模型中，如何理解單個特徵的影響？如果簡單地畫特徵值與預測值的散點圖，會混淆特徵本身的作用與其他特徵的作用。

部分相依性的想法是：固定其他特徵的值不變(或使用其邊際分佈)，只改變該特徵，觀察預測的變化。這樣能隔離該特徵的淨效應。

PDP的關鍵特性：

• 邊際視角：顯示特徵的邊際(marginal)效應，不考慮其他特徵
• 模型無關：適用任何類型模型，無需假設模型形式
• 易於視覺化：通常用線圖或熱力圖表示
• 可交互性：支持研究兩個特徵的聯合效應(二維PDP)

運作原理

計算單變量PDP的過程：

1. 選定目標特徵f和預測點集合{x₁, x₂, ..., x_S}(通常是該特徵在訓練集中的均勻分割點)

2. 對於每個預測點x_s：

   • 對訓練集中的每個樣本i，構造新樣本：將該樣本的特徵f值替換為x_s，其他特徵保持原值
   • 用模型預測這個新樣本，得到預測值ŷ_i(x_s)
   • 計算平均預測值：PDP(x_s) = (1/N)Σŷ_i(x_s)

3. 畫圖：x軸為特徵f的值(x_s)，y軸為平均預測值(PDP)，連接各點得到曲線

公式表示： PDP_f(x_s) = (1/N)Σ_{i=1}^N f̂(x_s, x_C^{(i)}) 其中f̂是模型，x_s是特徵f的值，x_C^{(i)}是第i個樣本中其他特徵的值。

雙變量PDP用於研究兩個特徵的交互效應： PDP_{f1,f2}(x_s1, x_s2) = (1/N)Σ_{i=1}^N f̂(x_s1, x_s2, x_C^{(i)}) 通常用熱力圖表示，顏色表示預測值強度。

個體條件期望(Individual Conditional Expectation, ICE)是PDP的變體，不計算平均，而是為每個樣本畫一條曲線。這能揭示PDP曲線掩蓋的異質性：若不同樣本的ICE曲線差異很大，說明特徵的影響因樣本而異。

實際應用

在房價預測中，PDP能回答「房間數量如何影響預測房價」。假設模型預測房價為20萬，通過PDP可視化，若房間從3增加到5，預測房價上升至25萬，說明房間數對房價有正相關的邊際影響。

在客戶流失預測中，PDP幫助理解客戶生命週期價值。若PDP顯示「用戶年齡增加時，流失概率先上升後下降」，提示存在非線性關係:中年用戶流失率最高，年輕與老年用戶流失率較低。

在信用評分中，PDP展示「負債與收入比例如何影響信貸評分」。若PDP是單調遞減的S型曲線，說明模型確實將高比例視為壞信號；若呈現異常(如先上升後下降)，可能提示模型訓練或資料有問題。

在廣告展示中，PDP能評估「廣告頻次如何影響點擊率」。若PDP顯示先上升後下降的拱形，說明存在最優頻次，過多展示反而降低點擊率(視覺疲勞)。

在機器故障診斷中，PDP幫助工程師理解「運行溫度、振動幅度等如何影響故障概率」，從而制定維護策略。

常見誤區

誤區1：混淆PDP與特徵的真實邊際效應。PDP基於已訓練模型，反映的是模型學到的關係，不一定是資料的真實因果關係。例如若特徵與混淆變量相關，PDP會混淆兩者的效應。

誤區2：忽視特徵相關性的影響。PDP計算時改變特徵值，導致新構造的樣本可能離訓練資料很遠，進入模型的外插區間。此時預測值可能不可靠。例如若「房間數」與「總面積」高度相關，改變房間數而保持總面積不變可能得到不現實的樣本(如3個房間50平方米)。

誤區3：錯誤解釋PDP曲線的形狀。PDP平坦(水平線)不一定說明特徵無用，可能是兩個相反效應相互抵消。應結合特徵重要性與ICE圖診斷。

誤區4：在樣本不足的地方信任PDP。如果某個特徵範圍在訓練集中很少出現，PDP在該範圍的值是基於很少樣本的外插，不可靠。應檢查訓練集中各特徵範圍的樣本密度。

誤區5：假設PDP曲線是因果效應。改變特徵值導致預測改變，不等於改變特徵的真實值會導致目標改變。PDP反映的是模型的相關性，不一定是因果性。

與相關技術的比較

• 與LIME的區別：LIME解釋單個預測，關注"為什麼這個樣本得出這個結果"；PDP解釋特徵的全局效應，關注"特徵如何整體影響預測"。LIME是局部的，PDP是全局的。
• 與SHAP值的關係：SHAP提供每個樣本每個特徵的貢獻度(局部)，PDP展示特徵與預測的邊際關係曲線(全局)。SHAP更精細，PDP更直觀。可以結合：用SHAP值的平均值(沿特徵值)可近似PDP。
• 與特徵重要性的聯繫：特徵重要性告訴你"這個特徵有多重要"，PDP告訴你"這個特徵如何影響預測"。應先用重要性篩選，再用PDP細化理解重要特徵的具體作用。