iPAS 備考專區 登入

iPAS AI 應用規劃師 初級 科目一 人工智慧基礎概論・115 年第一次・L11・第 6 題

模型正規化要先分還是先算?

原題

資料科學團隊在模型訓練前,需對數值特徵進行正規化(Normalization)或標準化(Standardization)。為確保模型評估結果具真實性並避免資料洩漏(Data Leakage),下列何者為最適當的作法?

白話

資料科學團隊在模型訓練前,需要對數值特徵進行正規化(Normalization)或標準化(Standardization)。他們的目標是確保模型評估結果具真實性,並避免資料洩漏(Data Leakage)。

問你:下列哪種做法最適當?

一句話總結

正規化的正確步驟:先分割訓練集和測試集,再用訓練集計算統計量,最後把同一組統計量套用到測試集。讓測試集的統計量影響訓練就是資料洩漏。

情境

先感受問題:考試前偷看考題,成績算不算數?

假設你是「智評教育」的資料工程師,正在建立學生成績預測模型。資料集裡有學生的各科成績(數值差異很大,數學 0-100 分,作文字數 0-3000 字),你需要做正規化讓所有特徵在相同尺度上。

你準備了 8000 筆訓練資料和 2000 筆測試資料。問題:「我要拿哪些資料計算正規化的參數(平均值、標準差)?」

這個問題的核心邏輯是:測試集模擬的是「未來要遇到的新數據」,如果計算統計量時把測試集也算進去,就等於考試前偷看了考題,成績不能反映真實能力。這就是資料洩漏(Data Leakage)。

舊方法

三種錯誤做法,每個都有不同的問題

「智評教育」的工程師曾嘗試過以下錯誤方式:

  1. 分割前就算(選項 A 的問題):把全部 10000 筆資料一起算平均值和標準差,然後才分割。測試集的統計資訊已經「洩漏」進了訓練流程,評估結果過於樂觀
  2. 訓練測試各自算(選項 B 的問題):訓練集用訓練集的統計量,測試集用測試集的統計量。問題是:實際上線後你不知道未來數據的統計量,而且兩份資料用不同的縮放標準,模型學的尺度和預測的尺度不一致
  3. 只處理訓練集(選項 D 的問題):訓練集做了標準化,測試集保持原始數值。訓練時數學成績是 0-1 的標準化值,測試時卻是 0-100 的原始值,模型看到的「語言」完全不同,預測結果毫無意義
  4. 忘記記錄統計量:處理完訓練集後忘了存下平均值和標準差,之後無法用同一組參數轉換新數據
  5. 驗證集也忘了處理:只處理了訓練集和測試集,忘記驗證集(validation set)也要套用訓練集的統計量,不能另算

新方法

正確的正規化流程,三步搞定

「智評教育」建立了標準作業流程:

第一步:先分割。把 10000 筆資料分成訓練集(8000 筆)和測試集(2000 筆)。分割之後,訓練集和測試集就不能再互相「看到」對方了。

第二步:只用訓練集算統計量。用 8000 筆訓練資料計算每個特徵的平均值和標準差(或最大最小值)。這組統計量「代表」模型訓練時所認識的世界,要儲存起來備用。

第三步:用同一組統計量套用到測試集。用第二步算出的訓練集統計量,對 2000 筆測試資料做同樣的轉換。測試資料在模型眼裡用的是「同一把尺」,評估才有意義。

正式上線後,新來的每一筆預測數據,也要套用這同一組訓練集統計量,確保生產環境和訓練環境尺度一致。

這就是選項 C 正確的原因:先分割,僅以訓練資料計算統計量,再套用至測試資料。

錯選項

為什麼其他選項是錯的

A於資料分割前,先對完整資料集計算統計量並進行標準化處理

字面在說什麼

先對所有資料(包含訓練集和測試集)一起計算均值和標準差,標準化完成後再分割。

為什麼不對

這是最典型的資料洩漏。計算統計量時納入了測試集,意味著訓練過程間接「看到」了測試集的數據分佈。最終評估結果會比實際好看,模型部署後表現會下降。

誰會選錯

「先把數據整理乾淨再分割感覺比較合理」的初學者。這個直覺錯了:分割必須發生在任何基於標籤或統計量的操作之前。

B先分割訓練資料和測試資料,並各自獨立計算統計量後進行標準化

字面在說什麼

分割後,訓練集用自己的均值標準差,測試集用自己的均值標準差,互不干涉。

為什麼不對

訓練集和測試集用了不同的縮放標準,兩者的「語言」不一致。模型在訓練集學的數值分佈,跟測試集送進去的數值分佈不同,就像用台斤訓練後,測試時改用公斤,比較結果失去意義。

誰會選錯

以為「各自獨立才不會洩漏」的人。洩漏問題是「訓練集看到測試集信息」,B 確實沒有洩漏,但它造成了另一個更嚴重的問題:縮放標準不一致。

D僅對訓練資料進行標準化處理,測試資料保持原始數值

字面在說什麼

訓練集做了標準化,但測試集保留原始數值,不做任何轉換。

為什麼不對

訓練時模型看到的是標準化後的數值(如 0-1 或 z-score),測試時看到的是原始數值(如 0-100),尺度完全不同,預測結果毫無意義。測試集和未來新數據都必須套用同一組統計量做轉換。

誰會選錯

認為「只要訓練集標準化就夠了,測試集保持原始比較公平」的人。實際上兩邊尺度一致才是公平的,不一致反而讓評估完全失真。

變形題

同個考點下次怎麼變形

延伸

想再往下看,這 5 個

答案、題目或解析有問題?回報這題

出處:iPAS 經濟部產業人才能力鑑定 ・ 115 年第一次 iPAS AI 應用規劃師 初級 科目一 人工智慧基礎概論 第 6 題

看官方原文 PDF

原題 © 經濟部產業發展署,AITerms.tw 僅作教學解析使用,本站解析以 CC BY-NC-SA 4.0 授權。