多任務學習 是什麼?

Multi-task Learning — 多任務學習 的完整解釋

多任務學習是一種機器學習方法,旨在同時訓練一個模型來執行多個相關任務,以提升模型的泛化能力和效率。

容易混淆

多任務學習 vs 遷移學習 多任務學習:同一時間學多個任務 遷移學習:先學一個,再拿去學另一個 最關鍵的區別:先看它是在比什麼,再看它怎麼做。

多任務學習 vs 多模型 多任務學習:一個模型共享底層表示 多模型:每個任務各自訓練,資源更分散 最關鍵的區別:先看它是在比什麼,再看它怎麼做。

記住這句就好

相關任務一起學,常比單獨學更省力。

實際案例

客服 NLP 同一套模型同時做意圖辨識、情緒判斷、和關鍵資訊抽取,整體流程更快。

醫療文書 一個模型同時判斷疾病分類與症狀抽取,因為兩個任務都在看同一份病歷。

算法與應用

多任務學習最怕負遷移,任務不相干時,共享參數反而會互相干擾。 常見做法有硬共享、軟共享、和任務專屬頭。 好的設計會讓主幹學共通表示,尾端保留每個任務自己的細節。

情境判斷

Q1(直覺題):你有分類、抽取、摘要三個任務,而且資料彼此相關,最像什麼策略? → 多任務學習,因為共享表示能互相幫忙。

Q2(判斷題):如果其中一個任務非常奇怪,和其他任務差很多,還硬放一起學,風險是什麼? → 可能出現負遷移,讓本來簡單的任務也變差。

相關術語

常見問題

多任務學習一定比較好嗎?

不一定,任務相關才有機會互利。

共享越多越好嗎?

也不是,共享太多會讓任務細節被沖淡。

它和集成學習一樣嗎?

不一樣,集成是多個模型投票,多任務是單一模型一起學。