iPAS AI 應用規劃師

iPAS 考題解析

在進行大型語言模型(LLM)企業專屬知識的 Fine-tuning 時,若內部 GPU 運算資源與記憶體嚴重受限,下列哪一種參數高效微調(PEFT, Parameter Efficient Fine-Tuning)技術最能在維持模型效能的前提下,顯著降低需更新的參數數量?

初級 生成式AI應用與規劃 難度:中等 ★★☆ 115 年考題

考試範圍定位

考試等級
初級能力鑑定
考試科目
生成式 AI 應用與規劃
知識主題
No code / Low code 概念
能力指標
No Code / Low Code 的基本概念(L12101)

本題屬於 iPAS AI 應用規劃師初級能力鑑定「生成式 AI 應用與規劃」科目中的「No code / Low code 概念」範疇, 對應的能力指標為「No Code / Low Code 的基本概念」,涵蓋工具本身的基本認知與基礎概念等核心知識點。 考生在準備這個範疇時,需要掌握相關的理論基礎與實務應用。

題目與選項

在進行大型語言模型(LLM)企業專屬知識的 Fine-tuning 時,若內部 GPU 運算資源與記憶體嚴重受限,下列哪一種參數高效微調(PEFT, Parameter Efficient Fine-Tuning)技術最能在維持模型效能的前提下,顯著降低需更新的參數數量?

  • A. 知識蒸餾(Knowledge Distillation)
  • B. 提示詞工程(Prompt Engineering)
  • C. 梯度凍結(Gradient Freezing)
  • D. 低秩適配(Low-Rank Adaptation) ✓ 正確答案

詳細解析

正確答案:D. 低秩適配(Low-Rank Adaptation)

LoRA(Low-Rank Adaptation)是 PEFT 技術的代表,透過在原始權重旁插入低秩矩陣來微調,大幅減少需更新的參數量,同時維持模型效能,特別適合 GPU 資源受限的場景。

各選項逐一解析

理解每個選項為什麼對或錯,是真正掌握這個知識點的關鍵。以下逐一分析每個選項的含義與判斷依據。

A. 知識蒸餾(Knowledge Distillation) (不正確)

知識蒸餾是用大模型訓練小模型的技術,不屬於 PEFT 範疇。

B. 提示詞工程(Prompt Engineering) (不正確)

提示詞工程不涉及參數更新,不是微調技術。

C. 梯度凍結(Gradient Freezing) (不正確)

梯度凍結可減少訓練參數,但不如 LoRA 精細,且可能影響效能。

D. 低秩適配(Low-Rank Adaptation) (正確)

正確:LoRA 透過低秩分解大幅降低可訓練參數量,是 PEFT 的代表技術。

本題涉及的 AI 術語

深入理解以下術語,有助於掌握本題背後的核心概念,也能幫助你在遇到相似題目時更快判斷正確答案。

中等題備考建議

  • 本題屬於中等難度,需要理解概念之間的關聯與應用情境,不能只靠死背定義。
  • 中等難度的題目常考「為什麼」和「怎麼用」,建議整理各技術的優缺點比較表。
  • 練習時注意錯誤選項的陷阱設計,很多時候錯誤選項只有一兩個字的差異,需要仔細辨別。
  • 建議用「費曼學習法」,嘗試向別人解釋這道題的解題思路,能講清楚就代表真正理解了。

同主題考題練習

以下題目與本題屬於相同的考試範疇,建議一併練習以加強對該主題的掌握程度。

iPAS AI 應用規劃師認證簡介

iPAS AI 應用規劃師能力鑑定是經濟部產業發展署推動的國家級 AI 證照制度, 分為「初級」與「中級」兩個等級。初級考試包含「人工智慧基礎概論」和「生成式 AI 應用與規劃」兩個科目, 著重基本概念的理解與應用。中級考試涵蓋「AI 技術應用與規劃」「大數據處理分析與應用」「機器學習技術與應用」三個科目, 要求考生具備更深入的技術知識與實務能力。 本題來自初級考試範圍,適合正在準備初級認證的考生練習。

開始準備 iPAS 考試

本題來自 115 年 AI 應用規劃師初級考試。 想通過 iPAS 認證?從完整題庫練習開始,搭配術語詞典與備考攻略,系統化提升你的 AI 知識。