iPAS 備考專區 登入

iPAS AI 應用規劃師 中級 科目二 大數據處理分析與應用・114 年第二次・L22・第 39 題

腫瘤分類模型資料不平衡,交叉驗證怎麼做才不偏差?

原題

若評估一個新開發的腫瘤分類模型,其資料集中有 80% 的樣本來自良性病例。若直接使用 5-fold 交叉驗證(Cross-Validation)進行模型評估,可能導致模型效能評估出現偏差,為避免此問題,下列哪一種作法最合適?

白話

腫瘤分類資料集中有 80% 良性病例、20% 惡性病例。直接做 5-fold 交叉驗證,可能因為每折的類別比例不均而造成評估偏差。

問你:資料類別比例不均時,怎麼做交叉驗證才能避免評估偏差?

一句話總結

不平衡資料集做交叉驗證,要用分層交叉驗證(Stratified K-Fold Cross-Validation),它確保每一折的類別比例都和整體資料集一致(80% 良性、20% 惡性),避免某折全部是良性、評估偏差。

情境

先感受問題:普通 K-Fold 切出不均勻的折

「慈濟醫療 AI」研究員明珊開發了一個腫瘤分類模型,資料集共 1,000 筆,其中良性 800 筆(80%)、惡性 200 筆(20%)。

她用普通的 5-fold 交叉驗證,隨機把資料分成 5 折。問題來了:隨機切分可能導致某一折的 200 筆裡,惡性樣本只有 30 筆(15%),另一折卻有 50 筆(25%)。

這樣的不均勻分配,讓每折訓練時的「惡性樣本比例」不一樣,評估結果不穩定,有些折評估出來的準確率虛高(那折惡性太少,模型全預測良性就很準)。

舊方法

普通 K-Fold 的問題

  1. 隨機切分無法保證比例:普通 K-Fold 隨機打亂再切,小資料集或不平衡資料集,每折的類別比例可能差異很大。
  2. 某折惡性樣本為 0 時訓練失敗:極端情況下,某折測試集可能完全沒有惡性樣本,模型在這折的 Recall(惡性偵測率)無意義,平均評估指標失準。
  3. K 值小不解決比例問題:把 K 從 5 降到 3,每折更大,但隨機比例失衡的問題依然存在,只是折數少、每次評估的標準差更大。
  4. 只調整測試集比例,訓練集不對:若只讓測試集有更高的良性比例,但訓練集比例沒對應調整,模型訓練的信號錯誤,且人工改變測試集比例讓評估不代表真實情境。
  5. Bootstrap 計算量大,且不直接解決折內比例問題:Bootstrap 有放回抽樣,每次 out-of-bag 樣本的比例仍可能不均,且計算量比 Stratified K-Fold 大。

新方法

分層交叉驗證:每折都保持 80:20 的比例

明珊改用分層交叉驗證(Stratified K-Fold):

做法:先把良性 800 筆和惡性 200 筆分開,各自均勻分成 5 折:

  • 良性每折:160 筆
  • 惡性每折:40 筆

再把對應折合併:每折 = 160 良性 + 40 惡性 = 200 筆(80% 良性,20% 惡性)。

結果:每次訓練都在 80:20 的資料上進行,測試也在 80:20 的資料上評估,5 折結果可靠比較,平均指標有意義。

這就是選項 D 講的:使用分層交叉驗證(Stratified K-Fold Cross-Validation),以確保每折類別比例一致。

錯選項

為什麼其他選項是錯的

A降低 K 值以減少交叉驗證次數

字面在說什麼

把 K 從 5 降到 2 或 3,讓每折的資料量更大。

為什麼不對

K 值決定的是「折數」,不是「每折的類別比例」。降低 K 值讓每折資料量增加,但隨機切分依然可能讓某折惡性樣本比例偏高或偏低。問題的根源是「不保證比例」,降低 K 根本沒有解決這個問題。

誰會選錯

以為「折數少 = 每折樣本更均勻」的人,混淆了「每折樣本量大」和「每折類別比例均勻」。

B改為使用拔靴法(Bootstrap)

字面在說什麼

用有放回抽樣的 Bootstrap 方法代替 K-Fold 評估模型。

為什麼不對

Bootstrap 是可行的評估方法,但它的 out-of-bag 樣本的類別比例仍是隨機的,不保證每次評估的惡性樣本比例穩定。而且 Bootstrap 計算成本更高(通常跑 100-1,000 次),而分層交叉驗證更直接、更常用。

誰會選錯

知道 Bootstrap 是替代評估方法,但不清楚它並沒有解決「每次評估樣本比例不均」的問題。

C調整測試集使良性樣本比例更高,以模擬真實分佈

字面在說什麼

人工調整測試集的類別比例,讓測試集更接近真實臨床分佈。

為什麼不對

測試集應當保持原始資料分佈,人工調整會讓評估結果不代表真實情境。更大的問題是:「調整測試集比例」和「確保交叉驗證每折比例一致」是完全不同的操作,這個做法根本沒有解決 K-Fold 折間比例不一致的問題。

誰會選錯

把「測試集要反映真實分佈」和「解決 K-Fold 比例問題」混在一起的人。兩件事的確都重要,但這個選項的做法不是解決折間比例問題的方法。

變形題

同個考點下次怎麼變形

延伸

想再往下看,這 5 個

答案、題目或解析有問題?回報這題

出處:iPAS 經濟部產業人才能力鑑定 ・ 114 年第二梯次 iPAS AI 應用規劃師 中級 科目二 大數據處理分析與應用 第 39 題

看官方原文 PDF

原題 © 經濟部產業發展署,AITerms.tw 僅作教學解析使用,本站解析以 CC BY-NC-SA 4.0 授權。