iPAS 備考專區 登入

iPAS AI 應用規劃師 中級 科目二 大數據處理分析與應用・114 年第二次・L22・第 12 題

隨機過採樣最常造成什麼問題?

原題

在處理分類問題時,若某一類樣本數明顯少於其他類別,研究人員可能採用隨機過採樣(Random Oversampling)以平衡資料比例,此方法最常造成下列哪一種問題?

白話

資料集裡某一類別的樣本數比其他類別少很多(類別不平衡問題)。研究人員用「隨機過採樣」的方式來補充少數類別的樣本量,方法是把少數類別的資料重複複製,讓各類別數量變得平衡。

問你:隨機過採樣這個做法,最常引發哪一種問題?

一句話總結

隨機過採樣是把少數類別的資料「複製貼上」,同一筆資料出現多次,模型反覆看到完全相同的樣本,最常造成過擬合(Overfitting):模型把複製出來的「重複樣本」的細節特徵都死記下來,泛化能力變差。

情境

先感受問題:詐騙案例只有 100 筆,正常交易有 9900 筆

豐橋金融的 AI 團隊在訓練詐騙偵測模型,資料集如下:

正常交易:9,900 筆

詐騙交易:100 筆

比例:99:1

問題:模型如果只學到「全部猜正常」,Accuracy 就有 99%,根本不用學任何東西。訓練出來的模型對詐騙毫無偵測能力。

資料科學家小明想到一個直觀解法:把 100 筆詐騙資料複製 99 次,變成 9,900 筆,讓兩類資料平衡。

這就是隨機過採樣(Random Oversampling)。

但問題來了:這 9,900 筆詐騙資料只有 100 種不同的「面貌」。模型會把這 100 筆的每個特徵細節都背起來,而不是學到「詐騙交易的通用規律」。

舊方法

不處理類別不平衡時,有哪些踩坑方式

  1. 直接訓練:模型偏向多數類別:不做任何處理,模型學到「全部猜多數類別」就能得到高準確率。在我們的例子裡,模型 99% 的時間猜「正常交易」,詐騙完全抓不到。
  2. 隨機過採樣的過擬合陷阱:把少數類別重複複製,模型看到大量「一模一樣」的樣本。訓練誤差很低(因為這些樣本全都記住了),但測試集上表現差,因為現實中詐騙的模式比 100 筆豐富得多。
  3. 隨機欠採樣的資訊損失:反過來,把多數類別隨機刪到跟少數類別一樣少。但這樣 9,900 筆正常交易裡的資訊大量丟失,模型學到的「正常交易」知識也不足。
  4. 不調整類別權重的損失函數偏差:預設損失函數對每筆資料等權處理,等同於讓 9,900 筆正常的「聲音」蓋過 100 筆詐騙的「聲音」,模型訓練方向被主導。
  5. 評估指標選錯,誤以為模型很好:用 Accuracy 評估不平衡資料集上的模型,很容易得到「虛假的高分」,實際上少數類別的召回率可能是 0。

新方法

隨機過採樣用重複資料填充,導致過擬合

豐橋金融的小明把 100 筆詐騙資料複製成 9,900 筆後,訓練了模型。

結果:訓練集 F1-score = 0.98(非常高),但測試集 F1-score = 0.55(差很多)。

原因:模型看到同樣的 100 筆詐騙資料重複了 99 遍,對這些特定樣本的特徵死記硬背。這 100 筆裡有一筆詐騙金額是 3,247 元,模型學到「3,247 元 = 詐騙」,但這不是通用規律,只是那一筆的巧合。

在真實世界的測試集上,出現了這 100 筆以外的詐騙模式,模型完全不認識,泛化能力嚴重不足,這就是過擬合(Overfitting)。

更好的做法是用 SMOTE(合成少數類過採樣技術):不是「複製」既有資料,而是在少數類別的樣本之間「內插」合成新樣本,增加多樣性,降低過擬合風險。

這就是選項 A 講的:增加過擬合風險。

錯選項

為什麼其他選項是錯的

B降低模型的收斂速度

字面在說什麼

過採樣讓訓練集變大,模型要處理更多資料,所以訓練會變慢。

為什麼不對

過採樣確實讓訓練集資料量增加,訓練時間會拉長,但「收斂速度」指的是模型損失值趨向穩定所需的時間。重複樣本反而可能讓模型「更快收斂」到那些特定樣本的特徵上(因為它一再看到相同資料),而不是變慢。這不是過採樣「最常造成」的問題,也不是最嚴重的問題。

誰會選錯

直覺覺得「資料多了當然慢」的人。訓練時間和收斂速度是不同概念,而且這不是過採樣的主要副作用。

C減少資料總筆數數量

字面在說什麼

過採樣會減少資料總量。

為什麼不對

這與過採樣的定義完全相反。「過採樣」就是增加(複製)少數類別的樣本,總資料量只會增加,不會減少。減少資料量是「欠採樣(Undersampling)」的特徵,不是過採樣。

誰會選錯

把「過採樣」和「欠採樣」定義搞混的人。記住:過採樣 = 增加少數類、欠採樣 = 刪除多數類。

D導致訓練資料欄位缺失

字面在說什麼

過採樣會造成資料某些欄位的值消失或變成 null。

為什麼不對

隨機過採樣是完整複製現有樣本,所有欄位的值都跟原始樣本一模一樣,不會產生欄位缺失。欄位缺失(Missing Values)是另一個資料品質問題,跟採樣策略無關。

誰會選錯

把「資料不平衡」和「資料缺失」混為一談的人。這兩個是完全不同的資料問題,需要不同的處理方式。

變形題

同個考點下次怎麼變形

延伸

想再往下看,這 5 個

答案、題目或解析有問題?回報這題

出處:iPAS 經濟部產業人才能力鑑定 ・ 114 年第二梯次 iPAS AI 應用規劃師 中級 科目二 大數據處理分析與應用 第 12 題

看官方原文 PDF

原題 © 經濟部產業發展署,AITerms.tw 僅作教學解析使用,本站解析以 CC BY-NC-SA 4.0 授權。