某公司部署結合 Fine-tuning 與檢索增強生成(RAG)的語言模型系統作為內部文件助理。系統需同時確保回覆語氣一致、能即時查詢每日新增文件、維持效能穩定,並避免頻繁重新訓練。在長期維護與效能平衡下,下列哪一種策略最合適?

iPAS 考題解析

某公司部署結合 Fine-tuning 與檢索增強生成(RAG)的語言模型系統作為內部文件助理。系統需同時確保回覆語氣一致、能即時查詢每日新增文件、維持效能穩定,並避免頻繁重新訓練。在長期維護與效能平衡下,下列哪一種策略最合適?

  • A. 每週重新 Fine-tune 模型,將新文件整合進模型知識,逐步取代 RAG 模組
  • B. 完全依靠基礎模型與 RAG,不進行 Fine-tune,僅透過提示設計控制語氣
  • C. 每日進行增量 Fine-tune,讓模型即時學習新文件內容,避免依賴檢索
  • D. 保留語氣相關 Fine-tuning,僅透過檢索系統更新文件內容,不頻繁改動模型 ✓ 正確答案

詳細解析

將 Fine-tuning 用於穩定語氣風格,將 RAG 用於即時更新文件內容,這種分工最能平衡長期維護成本與效能。Fine-tuning 不需頻繁更新,而 RAG 可即時反映新文件,兩者各司其職。

出題年份:114 難度:★★☆