iPAS 考題解析在優化器中,哪一個方法會自動調整每個參數的學習率,特別適用於稀疏資料?
你的作答
在題目頁作答不會存進學習紀錄,想留下紀錄可以到題庫練習。
解析
正確答案:B. Adagrad
Adagrad(Adaptive Gradient Algorithm)對每個參數累積歷史梯度的平方,使更新頻繁的參數(稠密特徵)學習率降低,更新稀少的參數(稀疏特徵)學習率保持較高,特別適用於稀疏資料(如 NLP 的詞嵌入)。Adam 也有自適應學習率但不是特別針對稀疏資料設計。
每個選項為什麼對或錯
-
A Momentum 錯誤選項
Momentum 累積梯度方向,但不自適應調整每個參數的學習率。
-
B Adagrad 正解
Adagrad 自動調整每個參數的學習率,特別適用於稀疏資料,此為正確答案。
-
C Adam 錯誤選項
Adam 結合動量和自適應學習率,是更通用的優化器,非專門針對稀疏資料。
-
D SGD 錯誤選項
SGD 使用固定學習率,不自適應調整。
答案、題目或解析有問題?回報這題