搜尋意圖: 如果你在找「檢索增強微調 是什麼」或「檢索增強微調 和相近概念差在哪」,先看這頁的短定義、完整說明與延伸比較。
TL;DR: 檢索增強微調結合了檢索式和生成式模型的優勢,透過檢索相關資訊來增強微調過程,提升模型在特定任務上的效能。
實用情境: 適合用在閱讀 AI 文章、產品文件或和同事討論時,先用一頁快速對齊概念。
下一步: 先讀完定義,再往下看延伸比較與對應工具,把概念轉成實際應用。
你有沒有想過,模型如果在微調時就先看過相關文件,會不會更懂專業領域?
你可以把檢索增強微調想成一邊補課、一邊做題,模型在訓練時就把外部知識一起納入。
它重要是因為有些領域知識更新很快,單靠封閉式微調很容易跟不上。
你可以把它想成一個把抽象概念拉回日常判斷的提示,先知道它解決什麼問題,再看技術細節。
容易混淆
檢索增強微調 vs RAG
檢索增強微調是在訓練階段把檢索納進來 RAG 多半是在推論時先檢索再生成 最關鍵的區別是訓練時用還是回答時用。
檢索增強微調 vs 傳統微調
前者會把外部知識片段一起帶進訓練 後者主要是拿標註資料直接調參 最關鍵的區別是有沒有把檢索結果當訓練訊號。
記住這句就好
訓練時就讓模型看文件,叫檢索增強微調。
實際案例
企業內部知識 客服模型微調時直接搭配制度文件,之後回答會更貼近公司規範。
醫療問答 模型在微調過程中參考最新指南,比只看舊資料更容易跟上臨床更新。
算法與應用
它常把檢索到的片段、問題與答案一起組成訓練樣本。 好處是能把外部知識和模型參數一起調整,減少純微調的盲點。 但資料品質很關鍵,檢索到錯的內容,模型也會學歪。
情境判斷
Q1(直覺題): 如果訓練資料裡直接放入搜尋到的文件片段,這比較像什麼?
Q2(判斷題): 檢索增強微調做得好,就代表推論時不用再檢索了嗎?
常見問題
RAFT 和傳統微調有什麼不同?
A:RAFT 會把檢索到的知識一起用來訓練,傳統微調則主要依賴固定標註資料。
檢索式模型怎麼選?
A:通常看資料更新頻率、成本和目標任務,知識變動越快,越需要把檢索納進流程。
檢索增強微調最怕什麼?
A:最怕檢索回來的內容不準,因為訓練時會把錯誤一起學進去。