某公司部署結合Fine-tuning與檢索增強生成(RAG)的語言模型系統作為內部文件助理。系統需同時確保回覆語氣一致、能即時查詢每日新增文件、維持效能穩定,並避免頻繁重新訓練。在長期維護與效能平衡下,下列哪一種策略最合適?

iPAS 考題解析

某公司部署結合Fine-tuning與檢索增強生成(RAG)的語言模型系統作為內部文件助理。系統需同時確保回覆語氣一致、能即時查詢每日新增文件、維持效能穩定,並避免頻繁重新訓練。在長期維護與效能平衡下,下列哪一種策略最合適?

  • A. 每週重新Fine-tune模型,將新文件整合進模型知識,逐步取代RAG模組;
  • B. 完全依靠基礎模型與RAG,不進行Fine-tune,僅透過提示設計控制語氣;
  • C. 每日進行增量Fine-tune,讓模型即時學習新文件內容,避免依賴檢索;
  • D. 保留語氣相關Fine-tuning,僅透過檢索系統更新新文件內容,不頻繁改動模型 ✓ 正確答案

詳細解析

保留語氣 Fine-tuning 確保風格一致,透過 RAG 即時更新新文件內容,避免頻繁重訓,是最平衡的策略。

難度:★★★