AITerms 登入
模型訓練深度學習

Epoch(訓練輪次)是什麼?

Epoch(訓練輪次)是模型完整遍歷一次訓練資料集的過程;訓練輪次數量影響模型效果,過多會造成過擬合,過少會導致欠擬合。

同主題的術語模型訓練深度學習

完整定義

訓練輪次(Epoch)是一種在機器學習中用於訓練模型的迭代次數。一個 Epoch 代表模型完整地遍歷一次訓練資料集。透過多次 Epoch,模型能夠逐步調整其內部參數,以更好地擬合訓練資料,從而提升模型的準確性和泛化能力。過少的 Epoch 可能導致模型欠擬合,而過多的 Epoch 可能導致過擬合。

快速摘要

搜尋意圖:如果你在找「Epoch 是什麼」或「和 Batch、Iteration 差在哪」,先記住:Epoch 是模型完整看完一次整份訓練資料。

重點:Epoch 指模型把整個訓練集跑完一輪。若資料會切成多個 batch 才餵進模型,那一個 epoch 會包含多次 iteration。

實用情境:適合用在理解 loss curve、early stopping 與「多訓練幾輪到底有沒有幫助」,也是 iPAS 常見的訓練流程題。

下一步:先把 epoch / batch / iteration 的粒度分清楚,再回頭看 learning rate、early stopping,訓練流程就不容易混。

白話說明

你練習考題時,會不會想知道自己把整份講義看完幾次才算夠?

你可以把訓練輪次想成,模型把整個訓練資料集完整看過一遍的次數。

它其實就是模型完成一次全資料掃描的單位,跟批次大小、迭代次數和學習率一起影響訓練效果。

記住這句

一輪是全資料看完一次,不是只跑一個批次。

比喻:訓練輪次就像學生複習課本的次數 -- 讀一遍(一個 Epoch)可能還不熟,多讀幾遍會越來越懂;但如果讀太多遍,就會變成死記硬背,反而無法應變新題目(過擬合)。

容易混淆

Epoch vs Iteration

Epoch 是把整份資料看完一次,Iteration 是處理一個批次的更新步驟。

Epoch vs Batch Size

Batch size 是一次餵多少資料,Epoch 是整份資料被看過幾輪。

Epoch vs Step

Step 常常和 iteration 類似,指一次參數更新,不是完整看完資料集。

最關鍵的區別: Epoch 看「整體看了幾輪」,Iteration 和 Step 看「中間更新了幾次」。

實際案例

案例一:影像分類訓練

你把貓狗照片訓練 20 個 epoch,前幾輪準確率快速上升,後面開始變慢,這很正常。

案例二:早停法判斷

訓練到第 15 個 epoch 時,訓練集還在變好,但驗證集開始下滑,這通常是過擬合的訊號,應該考慮早停。

演算法與應用

Epoch 數不是越大越好。太少,模型還沒學夠,容易欠擬合。太多,模型可能把訓練資料背太熟,開始過擬合。實務上常搭配驗證集、早停法和學習率調整,一起決定要訓練幾輪。

Epoch、Batch Size、Iteration 三者的關係

這三個詞常被搞混,其實關係是固定的算式:

每個 epoch 的 iteration 數 = 訓練樣本數 ÷ batch size

Epoch(訓練輪次):整份訓練資料完整跑過一次。

Batch size(批次大小):一次餵給模型幾筆資料。

Iteration(迭代):更新一次模型權重,也就是跑完一個 batch。

舉例,訓練資料 10,000 筆、batch size 設 100:

所以「訓練 20 個 epoch」跟「訓練 2,000 步」在這個設定下講的是同一件事。論文寫 step 或 iteration、框架的進度條寫 epoch,換算就是上面這條式子。

項目
1 個 epoch 的 iteration 數
數量
100
項目
跑 20 個 epoch 的總 iteration 數
數量
2,000
項目
權重被更新的總次數
數量
2,000

該設幾個 epoch

沒有通用答案,因為它取決於資料量、模型大小與學習率。但判斷方法是固定的:看驗證集的誤差曲線。

驗證誤差還在往下掉,代表 epoch 不夠。驗證誤差開始往上翹而訓練誤差還在掉,代表已經開始過擬合,那個轉折點就是該停的地方。

實務上不用手動猜,直接開提早停止(early stopping):設一個耐心值,例如驗證誤差連續 5 個 epoch 沒有改善就停下來,並且回存表現最好的那一版權重。

微調(fine-tuning)預訓練模型時 epoch 通常很少,1 到 3 個就足夠,因為模型本來就已經學會大部分東西,跑太多輪反而會把原本的能力洗掉。

情境判斷

Q1(直覺題): 如果你把 10 萬筆資料切成 100 個批次,模型把這 100 個批次都跑完一次,這算幾個 Epoch?

1 個 Epoch,因為整份資料已經完整看過一輪。

Q2(判斷題): 訓練集越跑越好,驗證集卻先升後降,這時候還要一直增加 Epoch 嗎?

通常不要。這種情況多半是過擬合,應該考慮早停、正則化或調整資料與模型設定。

常見比較

常見問題

出現在這些考古題

官方公告試題的逐題解析裡,這 1 題把訓練輪次列為延伸術語。

相關術語

本頁內容有提到,或屬於同一組主題的術語

延伸學習

來源

這個術語目前沒有標註外部來源。

其他格式:Markdown 版本