欠擬合 是什麼?
Underfitting:欠擬合 的完整解釋
欠擬合指模型過於簡單,無法捕捉資料中的主要規律,訓練集與測試集的預測表現皆不理想
容易混淆
欠擬合 vs 過擬合 欠擬合是學不夠 過擬合是學太死 最關鍵的區別:一個太弱,一個太死記
欠擬合 vs 高偏差 欠擬合常和高偏差有關 但偏差是更抽象的統計概念 最關鍵的區別:現象和原因層次不同
欠擬合 vs 沒訓練好 沒訓練好可能是流程問題 欠擬合是模型能力不足或設定太保守 最關鍵的區別:過程失誤和模型本質
記住這句就好
訓練和實戰都差,常是模型太弱或限制太多。
實際案例
線性模型太簡單 拿直線去擬合明顯彎曲的資料,連訓練資料都追不上,這就是欠擬合的經典畫面
特徵太少 只用一個欄位預測房價,結果連區域和坪數都沒看,模型自然抓不到重點
算法與應用
| 模型容量 | 太小就不夠表達複雜關係 | 這是常見原因 | | 訓練時間 | 太短也可能沒學到 | 但不是唯一原因 | | 特徵品質 | 特徵太少或太弱會拖累表現 | 資料本身很重要 | | 診斷方式 | 看訓練和驗證表現一起判斷 | 兩邊都差常是欠擬合 |
中英對照與跟過擬合的對照
| 中文 | 英文 | 說明 |
|---|---|---|
| 欠擬合 | underfitting | 模型太簡單,連訓練資料都學不好 |
| 過擬合 | overfitting | 模型太複雜,把訓練資料的雜訊也背下來 |
| 偏差 | bias | 欠擬合對應高偏差 |
| 變異數 | variance | 過擬合對應高變異數 |
中國大陸寫作「欠拟合」與「过拟合」,指的是同一件事。
怎麼判斷是哪一種
只看一個數字判斷不出來,要同時看訓練誤差與驗證誤差。
| 訓練誤差 | 驗證誤差 | 診斷 | 該做什麼 |
|---|---|---|---|
| 高 | 高 | 欠擬合 | 加大模型、加特徵、訓練更久、降低正則化 |
| 低 | 高 | 過擬合 | 加資料、加正則化、提早停止、簡化模型 |
| 低 | 低 | 剛好 | 可以上線了 |
| 高 | 低 | 通常是資料切分有問題 | 檢查驗證集是不是太簡單或有洩漏 |
第一列最容易被誤判。看到效果不好就加資料,是很常見的直覺反應,但欠擬合加資料完全沒用,模型本來就沒能力擬合,給它更多資料只是讓它同樣學不好而已。這一步判斷錯,可以浪費掉整個專案的時間。
欠擬合的常見成因
模型能力不足。 用線性模型去配明顯非線性的關係,這是最典型的。
特徵不夠或沒表達出來。 資料裡沒有能區分結果的訊號。這時要做的是特徵工程或找新的資料來源,不是換模型。
正則化過強。 L1、L2 的係數設太大、dropout 比例太高,都會把模型壓得太簡單。
訓練不足。 epoch 太少或學習率太小,模型還沒收斂。看訓練誤差曲線還在往下掉就屬於這一類,繼續訓練即可。
學習率太大。 這個比較反直覺:學習率太大會讓損失一直震盪無法下降,看起來像欠擬合,其實是最佳化失敗。判斷方式是看損失曲線抖不抖。
診斷順序建議:先確認損失曲線正常收斂,再確認不是正則化過強,最後才考慮換更大的模型。
情境判斷
Q1(直覺題):訓練準確率 60%,驗證準確率 58%,你先懷疑什麼? → 先懷疑欠擬合,因為模型連訓練資料都沒學好。
Q2(判斷題):把模型調得更複雜,一定能解決所有問題嗎? → 不一定,如果資料品質差或特徵不對,調大模型也可能沒用。
欠擬合 在 iPAS 考試中的重點
根據歷年統計,欠擬合 相關題目 平均佔 AI 技術類考題 5%, 屬於中頻考範圍。
常見出題方向:類神經網路架構(40%)、模型訓練與評估(35%)、防止過擬合的策略(25%)。
相關術語
常見問題
欠擬合一定是模型太小嗎?
不一定,也可能是特徵太少、訓練不足或正則化太強。
怎麼區分欠擬合和資料太難?
看一個更簡單的模型是否也能有合理表現,並檢查特徵是否足夠。
欠擬合可以靠更多資料解決嗎?
有時可以,但如果模型本身太弱,單加資料未必夠。
資料來源
- iPAS AI 應用規劃師評鑑內容範圍參考(115.02) ,經濟部產業人才能力鑑定