iPAS 考題解析在深度學習中，ReLU（Rectified Linear Unit）激活函數相比 Sigmoid 函數的主要優勢為何？

解析

正確答案：D. 對正值輸入梯度恆為 1，不存在梯度消失問題，且計算效率更高

ReLU 對正值輸入的梯度恆為 1，不存在 Sigmoid 的梯度飽和問題（梯度消失），使深層網路的訓練更有效。計算上只是取 max(0, x)，比 Sigmoid 的指數運算快得多。缺點是負值輸入的「死亡 ReLU」問題，但整體優勢使其成為隱藏層的默認選擇。

每個選項為什麼對或錯

• A ReLU 的輸出值域在 (0, 1) 之間，適合輸出機率 錯誤選項

  ReLU 的輸出值域是 [0, ∞)，不是 (0,1)；輸出機率用 Sigmoid 或 Softmax。

• B ReLU 是平滑可微函數，梯度計算更穩定 錯誤選項

  ReLU 在 x=0 處不可微，不是平滑函數。

• C ReLU 能處理負值輸入，Sigmoid 不能 錯誤選項

  ReLU 對負值輸出為 0，Sigmoid 也能處理負值輸入（輸出接近 0）。

• D 對正值輸入梯度恆為 1，不存在梯度消失問題，且計算效率更高 正解

  ReLU 正值梯度恆為 1，計算高效，無梯度消失，此為正確描述。

答案、題目或解析有問題？回報這題

題目 © 經濟部產業發展署，AITerms.tw 僅作教學解析使用，本站解析以 CC BY-NC-SA 4.0 授權。