降低單張 GPU 記憶體壓力的方法為何?
iPAS 考題解析
降低單張 GPU 記憶體壓力的方法為何?
- A. 減少訓練資料量
- B. 使用較小的 Batch Size 搭配 Data Sharding ✓ 正確答案
- C. 增加學習率
- D. 改用測試集訓練
詳細解析
Batch Size 越小,每次計算使用的記憶體越少。Data Sharding 把資料分散到多個裝置,進一步減少單張 GPU 的負擔。
難度:★★★★
降低單張 GPU 記憶體壓力的方法為何?
降低單張 GPU 記憶體壓力的方法為何?
Batch Size 越小,每次計算使用的記憶體越少。Data Sharding 把資料分散到多個裝置,進一步減少單張 GPU 的負擔。