某金融機構導入檢索增強生成（Retrieval-Augmented Generation, RAG）模型，用於客服文件查詢與自動回覆。由於大型模型運算成本過高，若考慮引入知識蒸餾（Knowledge Distillation, KD）技術，下列何者為帶來的主要效益？
iPAS 考題解析
某金融機構導入檢索增強生成（Retrieval-Augmented Generation, RAG）模型，用於客服文件查詢與自動回覆。由於大型模型運算成本過高，若考慮引入知識蒸餾（Knowledge Distillation, KD）技術，下列何者為帶來的主要效益？
- A. 讓小型模型學習大型模型的知識，在降低運算成本的同時維持檢索與生成品質； ✓ 正確答案
- B. 只能應用於語音或影像辨識，無法提升文字檢索生成效能；
- C. 因為RAG已有檢索機制，無需額外蒸餾知識；
- D. 僅能依賴特定API供應商才能使用，無法在自建模型中實現
詳細解析
知識蒸餾（Knowledge Distillation）讓小型模型學習大型模型的知識，降低運算成本同時維持品質，適用於降低 RAG 運算成本。
難度：★★★