多任務學習 是什麼?
Multi-task Learning — 多任務學習 的完整解釋
多任務學習是一種機器學習方法,旨在同時訓練一個模型來執行多個相關任務,以提升模型的泛化能力和效率。
容易混淆
多任務學習 vs 遷移學習 多任務學習:同一時間學多個任務 遷移學習:先學一個,再拿去學另一個 最關鍵的區別:先看它是在比什麼,再看它怎麼做。
多任務學習 vs 多模型 多任務學習:一個模型共享底層表示 多模型:每個任務各自訓練,資源更分散 最關鍵的區別:先看它是在比什麼,再看它怎麼做。
記住這句就好
相關任務一起學,常比單獨學更省力。
實際案例
客服 NLP 同一套模型同時做意圖辨識、情緒判斷、和關鍵資訊抽取,整體流程更快。
醫療文書 一個模型同時判斷疾病分類與症狀抽取,因為兩個任務都在看同一份病歷。
算法與應用
多任務學習最怕負遷移,任務不相干時,共享參數反而會互相干擾。 常見做法有硬共享、軟共享、和任務專屬頭。 好的設計會讓主幹學共通表示,尾端保留每個任務自己的細節。
情境判斷
Q1(直覺題):你有分類、抽取、摘要三個任務,而且資料彼此相關,最像什麼策略? → 多任務學習,因為共享表示能互相幫忙。
Q2(判斷題):如果其中一個任務非常奇怪,和其他任務差很多,還硬放一起學,風險是什麼? → 可能出現負遷移,讓本來簡單的任務也變差。
相關術語
常見問題
多任務學習一定比較好嗎?
不一定,任務相關才有機會互利。
共享越多越好嗎?
也不是,共享太多會讓任務細節被沖淡。
它和集成學習一樣嗎?
不一樣,集成是多個模型投票,多任務是單一模型一起學。