iPAS 考題解析
在進行大型語言模型(LLM)企業專屬知識的 Fine-tuning 時,若內部 GPU 運算資源與記憶體嚴重受限,下列哪一種參數高效微調(PEFT, Parameter Efficient Fine-Tuning)技術最能在維持模型效能的前提下,顯著降低需更新的參數數量?
考試範圍定位
- 考試等級
- 初級能力鑑定
- 考試科目
- 生成式 AI 應用與規劃
- 知識主題
- No code / Low code 概念
- 能力指標
- No Code / Low Code 的基本概念(L12101)
本題屬於 iPAS AI 應用規劃師初級能力鑑定「生成式 AI 應用與規劃」科目中的「No code / Low code 概念」範疇, 對應的能力指標為「No Code / Low Code 的基本概念」,涵蓋工具本身的基本認知與基礎概念等核心知識點。 考生在準備這個範疇時,需要掌握相關的理論基礎與實務應用。
題目與選項
在進行大型語言模型(LLM)企業專屬知識的 Fine-tuning 時,若內部 GPU 運算資源與記憶體嚴重受限,下列哪一種參數高效微調(PEFT, Parameter Efficient Fine-Tuning)技術最能在維持模型效能的前提下,顯著降低需更新的參數數量?
- A. 知識蒸餾(Knowledge Distillation)
- B. 提示詞工程(Prompt Engineering)
- C. 梯度凍結(Gradient Freezing)
- D. 低秩適配(Low-Rank Adaptation) ✓ 正確答案
詳細解析
正確答案:D. 低秩適配(Low-Rank Adaptation)
LoRA(Low-Rank Adaptation)是 PEFT 技術的代表,透過在原始權重旁插入低秩矩陣來微調,大幅減少需更新的參數量,同時維持模型效能,特別適合 GPU 資源受限的場景。
各選項逐一解析
理解每個選項為什麼對或錯,是真正掌握這個知識點的關鍵。以下逐一分析每個選項的含義與判斷依據。
A. 知識蒸餾(Knowledge Distillation) (不正確)
知識蒸餾是用大模型訓練小模型的技術,不屬於 PEFT 範疇。
B. 提示詞工程(Prompt Engineering) (不正確)
提示詞工程不涉及參數更新,不是微調技術。
C. 梯度凍結(Gradient Freezing) (不正確)
梯度凍結可減少訓練參數,但不如 LoRA 精細,且可能影響效能。
D. 低秩適配(Low-Rank Adaptation) (正確)
正確:LoRA 透過低秩分解大幅降低可訓練參數量,是 PEFT 的代表技術。
本題涉及的 AI 術語
深入理解以下術語,有助於掌握本題背後的核心概念,也能幫助你在遇到相似題目時更快判斷正確答案。
中等題備考建議
- ▶ 本題屬於中等難度,需要理解概念之間的關聯與應用情境,不能只靠死背定義。
- ▶ 中等難度的題目常考「為什麼」和「怎麼用」,建議整理各技術的優缺點比較表。
- ▶ 練習時注意錯誤選項的陷阱設計,很多時候錯誤選項只有一兩個字的差異,需要仔細辨別。
- ▶ 建議用「費曼學習法」,嘗試向別人解釋這道題的解題思路,能講清楚就代表真正理解了。
同主題考題練習
以下題目與本題屬於相同的考試範疇,建議一併練習以加強對該主題的掌握程度。
iPAS AI 應用規劃師認證簡介
iPAS AI 應用規劃師能力鑑定是經濟部產業發展署推動的國家級 AI 證照制度, 分為「初級」與「中級」兩個等級。初級考試包含「人工智慧基礎概論」和「生成式 AI 應用與規劃」兩個科目, 著重基本概念的理解與應用。中級考試涵蓋「AI 技術應用與規劃」「大數據處理分析與應用」「機器學習技術與應用」三個科目, 要求考生具備更深入的技術知識與實務能力。 本題來自初級考試範圍,適合正在準備初級認證的考生練習。
開始準備 iPAS 考試
本題來自 115 年 AI 應用規劃師初級考試。 想通過 iPAS 認證?從完整題庫練習開始,搭配術語詞典與備考攻略,系統化提升你的 AI 知識。