微調 vs 檢索增強生成
Fine-tuning vs Retrieval-Augmented Generation
RAG 改的是回答流程，Fine-tuning 改的是模型參數。
對照重點知識更新方式不同，最關鍵的區別是外部知識放在哪裡。
逐項比較
| 項目 | 微調 | 檢索增強生成 |
|---|---|---|
| 記住這句 | 不是重練一個新模型，而是把舊模型調得更合用。 | 先查再答，RAG 才比較不會胡說。 |
| 怎麼運作 | 先把模型參數訓練成特定風格或能力 | 回答時先檢索再生成 |
| 比喻 | 微調就像請一位全科醫生去讀專科進修班 -- 不需要重讀醫學院（預訓練），只需要針對特定領域做額外訓練 | RAG 就像開卷考試 -- AI 回答問題前先查資料庫找到相關內容，再根據找到的資料生成答案，而不是完全靠記憶回答 |
| 適合解決 | 固定的輸出格式、特定領域語氣、壓縮提示長度 | 補充會變動的、大量的事實知識 |
| 不適合 | 灌入大量新事實，容易記錯又難更新 | 改變模型的行為風格 |
怎麼選
這兩個也常和提示工程一起比，三種做法各自適合的事，整理自「微調」術語頁：
| 手段 | 適合解決 | 不適合 |
|---|---|---|
| 提示工程 | 調整輸出格式、語氣、簡單任務 | 教模型不知道的知識 |
| 檢索增強（RAG） | 補充會變動的、大量的事實知識 | 改變模型的行為風格 |
| 微調 | 固定的輸出格式、特定領域語氣、壓縮提示長度 | 灌入大量新事實，容易記錯又難更新 |
- 最常見的誤用是拿微調當作灌知識的手段。 要讓模型知道公司的產品規格，正確做法幾乎都是檢索增強而不是微調：資料一改就要重訓、模型可能記成模糊的印象、而且無法標出出處。
- 微調真正的強項是行為與格式：讓模型每次都輸出合乎規格的 JSON、讓它用特定的專業語氣、或把一段很長的系統提示壓縮進權重裡以節省每次呼叫的成本。
實際案例（檢索增強生成）
企業客服
員工問報銷規則時，系統先從內部文件檢索，再用 LLM 整理成易懂回答。
法規問答
當法規更新很快時，RAG 可以先抓最新條文，再產出較準確的摘要。
考試與練習
初級 L12202 如何善用生成式 AI 工具的評鑑內容寫到「提示工程（提示詞框架、設計與優化）、RAG、AI 工具整合」，題庫裡題目提到微調或 RAG 的有 15 題。
iPAS 關聯度：微調 未分類，檢索增強生成 高頻。
- 某企業導入大型語言模型（LLM）進行客服自動化，並已透過 Fine-Tuning 學習企業標準問答範例，但在實務運作中仍出現回應策略未符合服務優先順序及語氣與品牌風格不一致的情況，因此技術團隊建議再導入 Reinforcement Fine-tuning（RFT）機制進行優化，其主要目的為何？
- 某金融機構導入檢索增強生成（Retrieval-Augmented Generation, RAG）模型，用於客服文件查詢與自動回覆。由於大型模型運算成本過高，若考慮引入知識蒸餾（Knowledge Distillation, KD）技術，下列何者為帶來的主要效益？
- 某企業建置檢索增強生成（Retrieval-augmented generation, RAG）系統支援內部知識查詢。隨著使用量提升，團隊發現模型回覆品質穩定，但推論延遲與運算成本逐漸增加。專案規劃在維持回覆品質前提下進行效能優化。在此情境下，若採用知識蒸餾（Knowledge Distillation），下列敘述何者最為合理？