搜尋意圖： 如果你在找「特徵重要性 是什麼」或「特徵重要性 和相近概念差在哪」，先看這頁的短定義、完整說明與延伸比較。
TL;DR： 量化輸入特徵對機器學習模型預測結果影響程度的指標，用於特徵選擇與模型理解。
實用情境： 適合用在閱讀 AI 文章、產品文件或和同事討論時，先用一頁快速對齊概念。
下一步： 先讀完定義，再往下看延伸比較與對應工具，把概念轉成實際應用。
量化輸入特徵對機器學習模型預測結果影響程度的指標，用於特徵選擇與模型理解。
特徵重要性（Feature Importance）是機器學習模型解釋與特徵工程的核心概念，幫助資料科學家理解模型的決策依據，並優化特徵集合以提升模型效能與可維護性。
為何特徵重要性很關鍵
現實中的機器學習任務往往面對數十乃至數百個候選特徵，但並非所有特徵都對預測有貢獻，部分特徵甚至可能引入雜訊、降低效能或增加過擬合風險。特徵重要性提供量化依據，讓資料科學家能：
- 移除低重要性特徵，簡化模型並降低計算成本
- 識別關鍵驅動因子，提升業務洞察
- 發現可能存在的數據洩漏（Data Leakage）
- 滿足監管合規的可解釋性要求
主要計算方法
- 樹狀模型內建特徵重要性
決策樹及其集成模型（Random Forest、XGBoost、LightGBM）提供模型原生的特徵重要性計算：
- Gini 重要性（Mean Decrease Impurity）：計算每個特徵在所有分裂節點上造成的不純度（Gini / Entropy）降低量的加權平均。計算快速，但對高基數（High Cardinality）特徵有偏誤，傾向高估數值型特徵的重要性。
- 增益（Gain）：特徵在所有分裂點上平均帶來的目標函數增益，XGBoost 預設指標，比 Gini 重要性更穩健。
- Cover：特徵在所有分裂點上平均覆蓋的樣本數比例。
- 頻率（Weight/Frequency）：特徵被選為分裂節點的次數比例，容易受到樹的結構影響，通常比增益穩定性低。
- 置換重要性（Permutation Importance）
模型無關的評估方法，步驟如下：
- 在驗證集上計算模型基準效能（如準確率、AUC）
- 將某特徵的值隨機打亂（破壞與目標的關聯性）
- 重新評估模型效能，效能下降越多代表該特徵越重要
優點：模型無關、在驗證集上計算因此反映真實泛化能力、不受特徵基數偏誤影響。缺點：對相關特徵的重要性分配可能低估（打亂一個相關特徵，另一個相關特徵可能補位）。
- 線性模型係數（Linear Model Coefficients）
在線性模型（如 Logistic Regression、Ridge）中，特徵係數的絕對值反映特徵對輸出的線性影響。但必須在特徵標準化後才能直接比較係數大小，否則規模不同的特徵係數無法橫向比較。
- SHAP 值（SHapley Additive exPlanations）
基於合作博弈論計算每個特徵對每個預測的邊際貢獻，取絕對值平均後可得全局特徵重要性。SHAP 提供最嚴謹的數學保證，同時支持局部解釋（個別預測）與全局解釋（整體重要性排序）。
- Gradient-based 方法（神經網路）
在深度學習中，可透過計算輸出對輸入特徵的梯度大小來評估重要性，包含：
- 梯度絕對值（Gradient Magnitude）
- Integrated Gradients
- Saliency Maps（圖像特徵重要性視覺化）
特徵重要性的視覺化
常見視覺化方式：
- 橫向條形圖（Bar Chart）：最直觀，按重要性降序排列
- SHAP Summary Plot：同時展示重要性排序與特徵值方向
- Partial Dependence Plot（PDP）：展示特定特徵對預測的邊際效應曲線
實務注意事項
- 特徵重要性反映的是「對當前模型的貢獻」，而非特徵與目標的絕對因果關係
- 高度相關的特徵可能因重要性被分散而各自顯得不重要，需搭配相關性分析
- 不同方法（Gini、Gain、SHAP）對同一模型可能給出不同的重要性排序，應根據場景選擇最合適的方法
- 在移除低重要性特徵前，應先在驗證集上評估移除後的模型效能，確認無顯著下降
常見問題
特徵重要性高代表該特徵是造成預測結果的原因嗎？
不一定。特徵重要性高只代表該特徵對模型的預測有很強的統計關聯，但不等同於因果關係。例如，冰淇淋銷量與溺水事故高度相關，但兩者都是氣溫升高的結果，並無直接因果。在建立機器學習模型時，若重要特徵本身是目標的代理變數（Proxy）而非真正驅動因素，依賴此特徵進行決策可能產生誤導。要建立因果推論需要使用隨機對照實驗或因果推斷框架（如 Do-Calculus、Instrumental Variables），而非單純依賴特徵重要性排序。
為什麼不同方法算出的特徵重要性排序可能不同？
不同特徵重要性方法的計算邏輯不同，因此可能得出不同排序。Gini 重要性以訓練數據不純度降低量計算，容易受高基數特徵（如 ID 欄位）影響；置換重要性在驗證集上計算，更反映真實泛化效果；SHAP 值基於所有特徵子集的平均邊際貢獻，理論最嚴謹但計算成本較高。當多種方法的排序不一致時，建議以置換重要性或 SHAP 作為主要參考，並結合業務知識進行最終判斷，不要盲目依賴單一方法的結果。
是否可以只保留重要性高的特徵來訓練模型？
可以，但需要謹慎驗證。移除低重要性特徵有助於簡化模型、降低過擬合風險與推論成本。實務做法是：先訓練包含所有特徵的基準模型，計算特徵重要性，移除重要性低於特定閾值的特徵後，再在相同驗證集上重新訓練並比較效能。若效能未顯著下降（或反而因過擬合降低而提升），則移除是合理的。要注意的是，某些特徵雖然單獨重要性低，但與其他特徵的交互作用卻可能有重要貢獻，因此不能只看個別特徵的重要性，有時需要考慮特徵交互項。