iPAS 備考專區 登入

iPAS AI 應用規劃師 中級 科目二 大數據處理分析與應用・114 年第二次・L22・第 9 題

資料有極端值時,哪種標準化最適合?

原題

在進行數值特徵的標準化(Normalization)時,若資料中存在極端值(Outliers),下列哪一種方法最適合使用?

白話

資料裡有一些跟大多數不一樣的極端值(Outliers,例如大多數人月薪 3-5 萬,但有一筆是 500 萬)。要對這組有極端值的資料做數值縮放,有四種方法可以選。

問你:有極端值的資料要做數值縮放,下列哪一種方法最適合?

一句話總結

資料有極端值時,用穩健縮放(Robust Scaling):它用中位數和四分位距(IQR)來縮放,這兩個統計量不受極端值影響,讓縮放結果更穩健。

情境

先感受問題:一個富翁毀掉整組薪資縮放

嘉誠科技 HR 部門有一份員工薪資資料(月薪,萬元):

阿明:3.5、阿美:4.2、阿強:3.8、阿薇:4.0

董事長:500(這就是極端值)

如果用 Min-Max Scaling(把所有值壓縮到 [0,1]):

阿明:(3.5 - 3.5) / (500 - 3.5) ≈ 0.000

阿美:(4.2 - 3.5) / (500 - 3.5) ≈ 0.001

董事長:(500 - 3.5) / (500 - 3.5) = 1.000

四個普通員工的縮放值都擠在 [0, 0.002] 這個極小的範圍內!一個極端值把所有人都「壓扁了」。

Robust Scaling 不受這個影響,因為它用的是中位數,而中位數不管 500 萬有多大,算法都一樣。

舊方法

Min-Max 和 Z-score 碰到極端值的五個問題

  1. Min-Max 被極端值拉壞比例:公式分母是 max - min,只要有一個超大值,分母就超大,所有正常值都被壓縮到接近 0 的極小範圍。
  2. Z-score 均值被極端值拉偏:均值(mean)對極端值敏感,一個 500 萬把均值從 3.875 拉到 103。標準差也會隨之暴增,讓正常值的 Z 分數都擠在 -0.1 附近。
  3. 模型看不出正常值之間的差異:因為正常值的縮放結果都太接近,模型無法從特徵值區分不同的員工。
  4. 極端值控制了整個尺度:整個縮放空間被極端值「佔據」,正常值的資訊量被稀釋。
  5. 不知道有極端值時難以發現:縮放完的資料看起來「正常」,但分佈已經被破壞,模型訓練結果可能很差卻找不到原因。

新方法

Robust Scaling 用中位數和 IQR,不理會極端值

穩健縮放(Robust Scaling)的公式:

X' = (X - Q2) / IQR

其中:Q2 = 中位數,IQR = Q3 - Q1(四分位距)

回到薪資例子(不含董事長計算中位數/IQR):

  • Q1(第 25 百分位)≈ 3.65 萬、Q3(第 75 百分位)≈ 4.1 萬
  • IQR = 4.1 - 3.65 = 0.45 萬
  • Q2(中位數)≈ 3.9 萬

縮放後:

  • 阿明:(3.5 - 3.9) / 0.45 ≈ -0.89
  • 阿美:(4.2 - 3.9) / 0.45 ≈ 0.67
  • 董事長:(500 - 3.9) / 0.45 ≈ 1102(很大,但不會壓壞其他人)

普通員工的縮放值分散在 [-1, 1] 附近,正常值之間的差異被保留了。

這就是選項 C 講的:穩健縮放(Robust Scaling)。

錯選項

為什麼其他選項是錯的

AMin-Max 正規化(Min-Max Scaling)

字面在說什麼

把所有值線性縮放到 [0, 1] 範圍內。

為什麼不對

Min-Max 公式是 (X - min) / (max - min),分母是最大值和最小值的差。有極端值時,max 會非常大,分母暴增,把所有正常值都壓縮到接近 0 的極小範圍。這是極端值敏感性最高的縮放方法,不適合有離群值的資料。

誰會選錯

記得「Min-Max 是最常用的縮放方法」就選它的人。Min-Max 適合無離群值且需要固定範圍的場景(如圖像像素),不適合有離群值的資料。

BZ-score 標準化(Z-score Normalization)

字面在說什麼

把資料轉成均值 0、標準差 1 的標準分佈。

為什麼不對

Z-score 用均值和標準差,這兩個統計量都對極端值敏感。一個極端值會把均值往極端方向拉,同時讓標準差暴增,結果所有正常值的 Z 分數都擠在一個很小的範圍內。Z-score 比 Min-Max 稍好,但仍不如 Robust Scaling 對離群值穩健。

誰會選錯

記得「Z-score 對離群值比 Min-Max 更穩健」的人。這話沒錯,Z-score 確實比 Min-Max 好一些,但在三個方法中,Robust Scaling 才是「最適合」有極端值的場景。

D標準分箱(Standard Binning)

字面在說什麼

把連續數值切成等寬的幾個區間,轉成類別特徵。

為什麼不對

分箱是把連續特徵轉成離散類別,改變的是資料的型態(連續→類別),不是在做「標準化/縮放」。題目問的是數值縮放方法,分箱根本不是縮放方法,用途完全不同。

誰會選錯

想說「分箱可以讓極端值跟其他值落在同一個箱子,所以能處理極端值」的人。分箱確實「降低」了極端值的影響,但它改變了特徵的性質,是不同問題的解法,不是縮放方法。

變形題

同個考點下次怎麼變形

延伸

想再往下看,這 5 個

答案、題目或解析有問題?回報這題

出處:iPAS 經濟部產業人才能力鑑定 ・ 114 年第二梯次 iPAS AI 應用規劃師 中級 科目二 大數據處理分析與應用 第 9 題

看官方原文 PDF

原題 © 經濟部產業發展署,AITerms.tw 僅作教學解析使用,本站解析以 CC BY-NC-SA 4.0 授權。