完整定義
領域適應(Domain Adaptation)解決機器學習中的「分布偏移」問題:當訓練資料(來源領域)與部署環境(目標領域)的資料分布不同時,模型性能往往大幅下降。領域適應技術通過對齊兩個領域的特徵分布或調整模型,使來源領域的知識能有效遷移到目標領域,減少對目標領域標注資料的需求。
領域適應(Domain Adaptation)是遷移學習的重要子領域,處理當訓練環境(來源領域)與實際部署環境(目標領域)存在分布差異時的模型適應問題。這在現實 AI 應用中極為普遍,因為收集大量目標領域的標注資料往往成本高昂或在技術上不可行。
領域適應的挑戰根源是「協變量偏移」(Covariate Shift)和「標籤偏移」(Label Shift)。協變量偏移指輸入特徵的分布在來源和目標領域之間不同(P_s(X) ≠ P_t(X)),但條件標籤分布 P(Y|X) 相同;標籤偏移指類別分布本身改變(如目標領域某疾病發病率更高)。不同類型的偏移需要不同的適應策略。
根據目標領域標注資料的可用性,領域適應分為幾種設定:無監督領域適應(Unsupervised Domain Adaptation, UDA)目標領域無任何標注,是研究最廣泛的設定;半監督領域適應目標領域有少量標注;監督領域適應(即一般的微調)目標領域有足夠標注,此時一般的微調即可。
無監督領域適應的主流技術包括幾類。特徵對齊方法(Feature Alignment)訓練特徵提取器使兩個領域的特徵分布趨於一致,DANN(Domain-Adversarial Neural Network)是代表性方法:在特徵提取器後加一個領域分類器,通過對抗訓練使特徵提取器生成「無法區分來源領域和目標領域的特徵」,從而實現隱式對齊。
自訓練(Self-Training)是另一類重要技術:先用在來源領域訓練的模型對目標領域無標注資料打偽標籤(Pseudo Labels),然後用高置信度的偽標籤作為監督信號繼續訓練,如此迭代。儘管偽標籤有一定誤差,這種自舉(Bootstrapping)方式通常能顯著提升目標領域性能。
在大型語言模型時代,領域適應通常以微調形式實現:在目標領域語料(如醫療文獻、法律條文、特定語言的文字)上繼續訓練(持續預訓練)或使用指令微調,讓 LLM 掌握目標領域的術語、風格和知識框架。參數高效微調(LoRA、Adapter)使這個過程以合理成本完成。
在 iPAS AI 應用規劃師考試中,領域適應是遷移學習章節的核心概念,考生需要理解與一般微調、零樣本學習的區別,以及在實際業務場景(如將通用 OCR 適應到特定行業票據識別)中的應用邏輯。
對抗領域適應(Adversarial Domain Adaptation)是無監督領域適應的重要方法系列。除前述的 DANN 外,ADDA(Adversarial Discriminative Domain Adaptation)通過判別式訓練策略提升對齊效果;MCD(Maximum Classifier Discrepancy)使用兩個任務分類器之間的不一致性作為領域差異的代理信號,引導特徵提取器最小化目標領域上兩個分類器的差異。
計算機視覺中的領域適應有獨特的應用場景:合成資料到真實資料的適應(Synthetic-to-Real Adaptation)。訓練自動駕駛感知系統時,可以用遊戲引擎(如 GTA5、CARLA)生成大量帶標注的合成圖像,再通過領域適應減少合成圖像與真實道路場景之間的外觀差距,大幅降低人工標注成本。
測試時適應(Test-Time Adaptation, TTA)是更進一步的設定:模型在測試時遇到分布偏移後,在不訪問源域資料的情況下,僅利用當前測試批次的統計資訊進行即時自我調整。TTT(Test-Time Training)等方法讓模型在測試推論時也能進行少量梯度更新,使其適應當前批次的分布特性,在自然影像分布偏移(如天氣變化、相機老化)的持續適應上展現潛力。
常見問題
微調是指在目標領域的有標注資料上繼續訓練模型,需要標注資料;領域適應更廣泛,特指處理來源領域和目標領域分布差異的問題,包括無監督方法(不需要目標領域標注)。微調可以視為監督領域適應的一種特例。當目標領域有大量標注資料時,直接微調往往最有效;標注稀缺時,無監督領域適應更實用。
醫療 AI 面臨顯著的領域適應挑戰。模型在公開資料集訓練後,部署到特定醫院時常因設備品牌、拍攝協議、患者人口統計差異而性能下降。典型方案包括:用目標醫院的少量標注資料微調;用大量未標注的目標醫院影像進行無監督特徵對齊;或在臨床部署後持續收集困難案例重訓(主動學習)。
領域適應失敗的常見原因:來源和目標領域差距過大(如將文字分類模型適應到醫學影像分析,任務性質根本不同);目標領域的獨特模式在來源領域中完全不存在,對齊無法填補這個空白;偽標籤質量太低(自訓練中模型置信度雖高但系統性偏差,導致偽標籤系統性錯誤)。遇到這些情況,收集目標領域真實標注資料通常是更可靠的解法。
大致分成三類。第一類是特徵對齊,例如用最大平均差異(MMD)縮小兩個領域特徵分布的距離。第二類是對抗式方法,例如 DANN 額外訓練一個領域分類器,讓特徵抽取器學到分不出資料來自哪個領域的特徵。第三類是自我訓練,用模型在目標領域產生偽標籤再訓練。目標領域有少量標註時,也常直接搭配微調。
相關術語
來源
參考來源:en.wikipedia.org
其他格式:Markdown 版本