少樣本學習 是什麼？

Few-shot Learning：少樣本學習 的完整解釋

少樣本學習讓模型僅憑少數標記範例即可泛化至新任務，突破傳統機器學習對大量訓練資料的依賴

容易混淆

少樣本學習 vs 傳統監督式學習 傳統監督式學習通常需要大量標記資料。 少樣本學習要在資料很少時也能快速泛化。

少樣本學習 vs 微調 少樣本學習強調少量範例就能適應。 微調是把既有模型再訓練一段時間，兩者常一起用，但不是同一件事。

記住這句就好

只看幾個例子，還能抓到規則，就是少樣本學習。

實際案例

罕見疾病分類 每種病只有少量影像，模型仍要能根據少數案例學到辨識方向。

新客服類型 新產品剛上線，標註對話不多，但系統仍要能先回答或分類常見意圖。

算法與應用

常見方法會借助預訓練模型、相似度比對、度量學習或提示式學習。 這類方法常見於自然語言處理、影像辨識和罕見事件偵測。

零樣本、單樣本、少樣本怎麼分

這幾個詞在兩個不同脈絡下意思不太一樣，容易混淆。

傳統機器學習的少樣本學習，指的是用很少的標註樣本訓練出一個模型，代表方法有度量學習（孿生網路、原型網路）與元學習（MAML）。這裡的「學習」是真的更新參數。

大型語言模型的少樣本，指的是在提示裡放幾個範例，模型不更新任何參數就照著做。這叫上下文學習（in-context learning），嚴格說不是學習，而是模型從上下文推斷任務格式。

給例子的實務要點

例子的格式比內容重要。 研究發現即使把範例的標籤打亂，效果下降有限；但把格式弄亂，效果會大幅下降。這說明範例主要在告訴模型「輸出要長什麼樣」，而不是在教它知識。

例子要涵蓋邊界情況。 只給典型案例，模型遇到邊界就自由發揮。特別要放一兩個「這種情況要回答不知道」的例子，否則模型傾向硬答。

例子的順序有影響。 尤其是分類任務，範例的類別順序會造成偏誤。多個類別時盡量交錯排列，不要同類集中。

不是越多越好。 加到某個數量之後效果就平了，繼續加只是增加成本與延遲。實務上先從 3 到 5 個試起，逐步加到效果不再提升為止。

需要的例子超過二十個，通常代表該考慮微調了。 提示裡塞大量範例，每次請求都要付這些 token 的錢，微調則是一次性成本。用量大的時候微調反而便宜。

少樣本學習 在 iPAS 考試中的重點

根據歷年統計，少樣本學習 相關題目 平均佔 AI 技術類考題 2%， 屬於未分類考範圍。

常見出題方向：機器學習進階策略（40%）、遷移學習與模型適應（35%）、深度學習演算法設計（25%）。

常見問題

少樣本學習等於零樣本學習嗎？

不等於，零樣本學習是完全沒看過標記例子，少樣本學習至少還有幾個。

少樣本學習一定要大模型嗎？

不一定，但預訓練能力強的模型通常更有優勢。

它和提示工程有關嗎？

很有關，尤其在大型語言模型裡，提示常是少樣本學習的重要方式。

資料少就一定會更準嗎？

不是，少樣本只是降低資料需求，不保證免除錯誤。