降低單張 GPU 記憶體壓力的方法為何?

iPAS 考題解析

降低單張 GPU 記憶體壓力的方法為何?

  • A. 減少訓練資料量
  • B. 使用較小的 Batch Size 搭配 Data Sharding ✓ 正確答案
  • C. 增加學習率
  • D. 改用測試集訓練

詳細解析

Batch Size 越小,每次計算使用的記憶體越少。Data Sharding 把資料分散到多個裝置,進一步減少單張 GPU 的負擔。

難度:★★★★