iPAS 考題解析在進行大型語言模型（LLM）企業專屬知識的 Fine-tuning 時，若內部 GPU 運算資源與記憶體嚴重受限，下列哪一種參數高效微調（PEFT, Parameter Efficient Fine-Tuning）技術最能在維持模型效能的前提下，顯著降低需更新的參數數量？

解析

正確答案：D. 低秩適配（Low-Rank Adaptation）

LoRA（Low-Rank Adaptation）是 PEFT 技術的代表，透過在原始權重旁插入低秩矩陣來微調，大幅減少需更新的參數量，同時維持模型效能，特別適合 GPU 資源受限的場景。

每個選項為什麼對或錯

• A 知識蒸餾（Knowledge Distillation） 錯誤選項

  知識蒸餾是用大模型訓練小模型的技術，不屬於 PEFT 範疇。

• B 提示詞工程（Prompt Engineering） 錯誤選項

  提示詞工程不涉及參數更新，不是微調技術。

• C 梯度凍結（Gradient Freezing） 錯誤選項

  梯度凍結可減少訓練參數，但不如 LoRA 精細，且可能影響效能。

• D 低秩適配（Low-Rank Adaptation） 正解

  LoRA 透過低秩分解大幅降低可訓練參數量，是 PEFT 的代表技術。

答案、題目或解析有問題？回報這題

題目 © 經濟部產業發展署，AITerms.tw 僅作教學解析使用，本站解析以 CC BY-NC-SA 4.0 授權。