增強式生成(Augmented Generation)是什麼?

在語言模型生成過程中整合外部知識來源或工具,以提升生成內容的準確性、時效性與可信度的技術框架。|本頁含完整原理、應用場景、iPAS 考試重點與 3 個常見問答。

英文
Augmented Generation
主題標籤
RAG、檢索增強生成、語言模型
考點定位
非 iPAS 核心術語
最後更新
2026/06/22
增強式生成(Augmented Generation)是什麼? RAG檢索增強生成
術語快查

搜尋意圖: 如果你在找「增強式生成 是什麼」或「增強式生成 和相近概念差在哪」,先看這頁的短定義、完整說明與延伸比較。

TL;DR: 在語言模型生成過程中整合外部知識來源或工具,以提升生成內容的準確性、時效性與可信度的技術框架。

實用情境: 適合用在閱讀 AI 文章、產品文件或和同事討論時,先用一頁快速對齊概念。

下一步: 先讀完定義,再往下看延伸比較與對應工具,把概念轉成實際應用。

在語言模型生成過程中整合外部知識來源或工具,以提升生成內容的準確性、時效性與可信度的技術框架。

增強式生成(Augmented Generation)是解決大型語言模型(LLM)內在局限性的一類核心技術框架。純粹的自回歸語言模型在生成文字時只依賴模型在訓練階段學到的參數知識,這種設計帶來三個根本性問題:知識截止(Knowledge Cutoff)問題,即模型不了解訓練資料截止日期之後發生的事情;幻覺(Hallucination)問題,即模型有時會生成聽起來合理但事實上錯誤的陳述;以及領域知識深度不足的問題,即通用模型在高度專業的垂直領域表現欠佳。增強式生成框架透過在推論時動態注入外部知識,系統性地緩解這三類問題。

一、檢索增強生成(RAG):最主流的增強形式

RAG 是增強式生成中目前最成熟、應用最廣泛的具體技術,由 Facebook AI Research 團隊(現 Meta AI)於 2020 年提出。其運作流程分為三個主要步驟。

索引階段(Offline):將知識庫(可以是公司文件、產品手冊、法律條文、學術論文等)分割成適當大小的文字段落,透過嵌入模型(Embedding Model)轉換成高維向量,儲存在向量資料庫(如 FAISS、Pinecone、Weaviate、Chroma)中。

檢索階段(Online,Retrieval):當用戶提出查詢時,系統先將查詢也轉換成向量,從向量資料庫中找出語意最相近的 Top-K 個文件段落。

生成階段(Online,Generation):將檢索到的文件段落作為上下文(Context),連同原始查詢一起構成提示詞(Prompt),送入語言模型生成最終回應。

這個流程使模型能夠「引用」外部知識,而非單純依賴訓練時記住的資訊,大幅降低幻覺風險。

二、超越 RAG 的增強形式

增強式生成的概念比 RAG 更廣泛,還涵蓋多種其他增強機制。工具調用(Tool Use / Function Calling):語言模型在生成時可以決定呼叫外部工具(計算機、搜尋引擎、程式執行環境、API),獲取工具執行結果後再繼續生成。這是 OpenAI Function Calling、Anthropic Tool Use 等機制的設計基礎。知識圖譜增強(KG-Augmented Generation):從結構化的知識圖譜中檢索實體關係,補充 RAG 在結構性知識推理上的不足。計算輔助生成(Computation-Augmented Generation):允許模型呼叫程式執行器驗證數學推導或執行程式碼,解決 LLM 在精確數值計算上的固有弱點。

三、RAG 的技術演進

RAG 技術本身也在持續演進。原始 RAG(Naive RAG)只有基本的索引-檢索-生成三段式流程;進階 RAG(Advanced RAG)引入了查詢重寫、混合搜尋(稠密向量 + 稀疏 BM25)、重排序(Re-ranking)、動態 Chunk 策略等改進。模組化 RAG(Modular RAG)將整個管線拆分為可獨立替換的模組,支援更靈活的架構設計。自我反思 RAG(Self-RAG)讓模型學習自行判斷何時需要檢索、檢索結果是否相關,以及生成的回應是否有事實支撐。Agentic RAG 將 RAG 整合進多步驟的 AI Agent 工作流,支援迭代式檢索與多跳推理。

四、評估增強式生成系統的品質

評估 RAG 系統的品質需要從兩個層面切入。檢索品質(Retrieval Quality):評估指標包括召回率(Recall@K,相關文件是否出現在 Top-K 結果中)、精確率(Precision,Top-K 中有多少是真正相關的)、以及 MRR(Mean Reciprocal Rank,第一個相關文件的排名倒數均值)。生成品質(Generation Quality):評估指標包括忠實度(Faithfulness,生成內容是否與檢索到的上下文一致,不自行添加未在上下文中的資訊)、答案相關性(Answer Relevance,是否回答了用戶的實際問題)、以及上下文召回率(Context Recall,生成的答案是否涵蓋了所有相關的上下文資訊)。RAGAS 框架是目前最廣泛使用的 RAG 評估工具套件,提供以上多種指標的自動化計算。

五、在企業 AI 應用中的實際價值

增強式生成框架是企業落地 AI 問答系統的主流架構。相對於對通用模型進行微調(Fine-tuning),RAG 的優勢在於知識更新成本低(只需更新知識庫,無需重新訓練模型)、知識邊界清晰可溯(能指出引用來源)、支援即時資訊(不受訓練截止日期限制)。這些特點使 RAG 成為企業知識管理系統、客服機器人、法律文件分析、技術文件查詢等場景的常用選擇技術路徑。

常見問題

RAG(檢索增強生成)和微調(Fine-tuning)有什麼本質差異,應該選哪個?

兩者解決的問題層面不同。微調是修改模型的參數權重,適合讓模型學習特定的風格、語氣、格式偏好,或對特定領域的術語與知識有更深的理解,但更新知識需要重新訓練,且可能引入遺忘(Catastrophic Forgetting)問題。RAG 則是在推論時動態注入知識,不修改模型參數,知識更新只需更新向量資料庫,成本極低,且可以明確追溯答案來源。一般建議:若需要更新知識庫或知識會持續變動,優先選 RAG;若需要改變模型的回答風格、輸出格式或對特定任務的專業能力,考慮微調。兩者也可以結合使用。

增強式生成可以完全消除語言模型的幻覺問題嗎?

增強式生成能大幅降低幻覺發生率,但無法完全消除。幻覺在 RAG 系統中仍可能以幾種方式出現:檢索失敗時(相關文件未被找到),模型仍可能依賴訓練記憶生成幻覺;檢索到的文件本身包含錯誤或過時資訊,模型會「忠實地」傳播這些錯誤;模型有時會在已有上下文的情況下仍生成與上下文矛盾的陳述,這稱為「幻覺型不忠實」。要進一步減少幻覺,需要搭配回應後驗證(Response Verification)、強制引用(Citation Enforcement)、以及使用忠實度評估指標持續監控系統行為。

建立 RAG 系統時,Chunk 大小(文件分段大小)如何決定?

Chunk 大小是 RAG 系統中最重要的超參數之一,需要在上下文完整性與檢索精準度之間取得平衡。Chunk 太大:每個 Chunk 包含太多不同主題的內容,向量嵌入難以準確捕捉核心語意,導致檢索到的 Chunk 包含大量無關內容,消耗不必要的 Token 配額。Chunk 太小:切碎了重要的上下文連貫性,同一概念的完整解釋被拆散到多個 Chunk 中,可能導致關鍵資訊被漏檢。實踐上常用的起點是 256 到 512 個 Token 的 Chunk,並使用滑動視窗(Sliding Window)保留相鄰 Chunk 間的重疊(Overlap),典型重疊比例為 10% 至 20%。最終最佳 Chunk 大小需要針對具體應用的文件類型與查詢模式透過實驗決定。