微調 是什麼？

Fine-tuning：微調 的完整解釋

微調是在預訓練模型基礎上，以少量特定領域資料繼續訓練，使通用模型適應特定任務需求，提升性能。

容易混淆

微調 vs 從頭訓練 從頭訓練是重新學一整套能力。 微調是站在既有模型上，往目標任務再調整。

微調 vs 提示工程 提示工程是用文字引導模型。 微調是真的改模型參數，影響更深也更持久。

記住這句就好

不是重練一個新模型，而是把舊模型調得更合用。

實際案例

客服機器人 先有一個通用語言模型，再用公司對話資料微調，回答就會更貼近品牌說法。

醫療文本分類 先用通用模型，再用醫療標註資料微調，專業名詞與分類邏輯通常會更準。

算法與應用

微調會沿用預訓練模型的表示能力，再用較小資料集更新部分或全部權重。 在大型語言模型、影像模型和多模態模型裡，微調都是很常見的落地方法。

中英對照與常見說法

跟預訓練的差別，這是最常考的一組

一句話的區別：預訓練學的是通識，微調學的是專業。

考題常見的問法是「先用大量通用資料訓練，再用少量特定資料調整」對應到哪個階段組合，答案就是預訓練加微調。

微調、提示工程、檢索增強，怎麼選

最常見的誤用是拿微調當作灌知識的手段。 要讓模型知道公司的產品規格，正確做法幾乎都是檢索增強而不是微調：資料一改就要重訓、模型可能記成模糊的印象、而且無法標出出處。

微調真正的強項是行為與格式：讓模型每次都輸出合乎規格的 JSON、讓它用特定的專業語氣、或把一段很長的系統提示壓縮進權重裡以節省每次呼叫的成本。

參數高效微調

全參數微調要更新所有權重，記憶體需求大且每個任務都得存一份完整模型。LoRA 這類參數高效微調（PEFT）的做法是凍結原模型，只訓練少量額外的低秩矩陣，可訓練參數常常不到全部的百分之一，效果卻接近全參數微調，而且多個任務可以共用同一個底模只換掛載的小模組。

微調最常見的失敗是災難性遺忘：學會新任務卻把原本的通用能力弄壞了。對策是降低學習率、混入一部分通用資料、或改用參數高效微調把原權重凍住。

微調 在 iPAS 考試中的重點

根據歷年統計，微調 相關題目 平均佔 AI 技術類考題 2%， 屬於未分類考範圍。

常見出題方向：預訓練模型與遷移學習（40%）、深度學習模型訓練技巧（35%）、模型適應與任務優化（25%）。

常見問題

微調會不會把原本能力弄壞？

有可能，若資料太窄或訓練方式不當，模型可能偏掉。

一定要全部參數都更新嗎？

不一定，實務上也常只更新部分層或參數高效率方法。

微調只適合語言模型嗎？

不只，影像、語音和推薦模型也常微調。

微調就是少樣本學習嗎？

不是，但兩者常搭配使用，少樣本提供少量資料，微調負責把模型往目標拉。