iPAS 考題解析某金融機構導入檢索增強生成（Retrieval-Augmented Generation, RAG）模型，用於客服文件查詢與自動回覆。由於大型模型運算成本過高，若考慮引入知識蒸餾（Knowledge Distillation, KD）技術，下列何者為帶來的主要效益？

解析

正確答案：A. 讓小型模型學習大型模型的知識，在降低運算成本的同時維持檢索與生成品質

知識蒸餾讓小型模型（學生模型）學習大型模型（教師模型）的知識與行為模式，在大幅降低運算成本與推論延遲的同時，盡可能維持與大型模型相近的檢索與生成品質。這對成本敏感的金融場景特別有價值。

每個選項為什麼對或錯

• A 讓小型模型學習大型模型的知識，在降低運算成本的同時維持檢索與生成品質 正解

  知識蒸餾讓小型模型學習大型模型知識，降低成本同時維持品質。

• B 只能應用於語音或影像辨識，無法提升文字檢索生成效能 錯誤選項

  知識蒸餾廣泛適用於各種模態，包括文字檢索與生成，不限於語音或影像。

• C 因為 RAG 已有檢索機制，因此無需額外蒸餾知識 錯誤選項

  RAG 的檢索機制與模型壓縮是不同層面的問題，蒸餾可進一步降低模型本身的運算成本。

• D 僅能依賴特定 API 供應商才能使用，無法在自建模型中實現 錯誤選項

  知識蒸餾是通用技術，可在自建模型中實現，不依賴特定 API 供應商。

答案、題目或解析有問題？回報這題

題目 © 經濟部產業發展署，AITerms.tw 僅作教學解析使用，本站解析以 CC BY-NC-SA 4.0 授權。