與模型無關的元學習（MAML (Model-Agnostic Meta-Learning)）是什麼？

透過內外層梯度最佳化找到最佳初始化參數，使任何模型在新任務上經少量更新後快速收斂。

MAML（Model-Agnostic Meta-Learning）自 2017 年 Chelsea Finn、Pieter Abbeel、Sergey Levine 在論文《Model-Agnostic Meta-Learning for Fast Adaptation of Deep Networks》中提出以來，已成為元學習領域最具影響力的方法之一，引發了後續數百篇相關研究。其「與模型無關」的設計理念與簡潔優雅的數學框架，使其成為理解元學習的最佳切入點。

MAML 的核心洞察

MAML 的核心假設是：存在某些初始參數，使得模型在任何新任務上只需極少的梯度更新（甚至一步、兩步）就能快速適應。這與人類學習的直覺相符：一個經驗豐富的人（好的初始化）面對新問題時，通常無需從零開始系統地重新學習，只需調整若干細節就能掌握。

與傳統的多任務學習相比，多任務學習優化的是「模型在所有任務上的平均性能」，而 MAML 優化的是「初始參數使得模型在少量梯度更新後的性能」：兩個優化目標有本質區別。

MAML 的數學框架

MAML 的標準形式化可描述為：

給定任務分布 p(T)，在任務 T_i 上，包含支持集 S_i（用於快速適應）和查詢集 Q_i（用於評估）。目標是尋找初始參數 θ，使得在元訓練的任務上執行以下步驟後，在查詢集上的損失最小：

內層更新：θ'_i = θ - α ∇_θ L(θ, S_i)
外層更新：θ = θ - β ∇_θ Σ_i L(θ'_i, Q_i)

其中 α 為內層學習率（稱為「快速權重」），β 為外層學習率；L 為損失函數。

の直觀含義：

1. 內層迴圈模擬在新任務上用支持集優化一次（或數次）的過程，得到任務特定的參數 θ'_i。
2. 外層迴圈評估這個任務特定的參數在查詢集上的表現，並沿著下降方向調整初始參數 θ，目的是使下次適應更快。
3. 重複上述過程，在任務分布上進行元訓練。

MAML 的運算流程

MAML 訓練的虛擬碼簡述如下：

### 初始化元參數 θ

### while 未收斂 do

  從任務分布 p(T) 採樣一批任務 {T_1, ..., T_batch}
  for 每個任務 T_i do
    將 T_i 分為支持集 S_i 和查詢集 Q_i
    計算梯度：g_i = ∇_θ L(θ, S_i)  （在支持集上的梯度）
    執行虛擬梯度步：θ'_i = θ - α × g_i  （模擬快速適應）
    計算元梯度：meta_g_i = ∇_θ L(θ'_i, Q_i)  （在查詢集上的梯度，通過 θ'_i 回傳到 θ）
  end for
  更新元參數：θ = θ - β × Σ_i meta_g_i
### end while

注意外層梯度計算涉及二階導數（Hessian），這是 MAML 計算昂貴的主要原因。

MAML 的「與模型無關」性質

「Model-Agnostic」是 MAML 的關鍵特色。傳統元學習方法往往只適用於特定架構（如度量學習只針對分類），而 MAML 的框架對任何可微分的模型都適用：CNN、RNN、MLP、Transformer 等都可直接套用 MAML，無需模型特定的修改。這種通用性使 MAML 能應用於多種任務：少樣本分類、回歸、強化學習、甚至超參數優化。

MAML 的變體與改進

1. First-Order MAML（FOMAML）：為降低計算成本，FOMAML 只使用一階導數（梯度），忽略二階項（Hessian），將複雜度從 O(d²) 降至 O(d)，其中 d 為參數數量。實驗表明 FOMAML 在許多任務上性能與 MAML 相當。

2. Probabilistic MAML：引入貝葉斯不確定性，將參數視為隨機變數，能夠估計模型的不確定性。

3. Continual MAML：結合持續學習，使 MAML 能在不忘記舊任務的前提下逐步學習新任務。

4. Multi-Task MAML（MTMAML）：在元訓練中同時處理多個任務族（Task Family），進一步提升任務多樣性的適應能力。

MAML 的應用領域

1. 少樣本視覺識別（Few-shot Image Classification）：在 miniImageNet、Caltech-UCSD Birds 等基準上，MAML 能在僅 1-5 張圖像的支持集上實現良好的分類，遠優於隨機初始化。

2. 強化學習：使智能體能在新環境中快速適應，相比傳統強化學習大幅減少環境交互次數。

3. 機器人學習：機器人在新任務（如新的操作物體）上快速適應。

4. 回歸與超參數優化：用極少的函數評估點快速找到最優超參數。

MAML 的計算複雜性與現實挑戰

MAML 的主要瓶頸是計算成本。標準 MAML 涉及二階梯度計算，每個訓練迭代的前向和反向傳播都需要更多的記憶體和計算時間，通常比普通監督學習慢 10-100 倍。對於大型模型和高維任務，這可能成為實務應用的阻礙。FOMAML 和其他近似方法緩解了這個問題，但精度有所犧牲。

此外，MAML 要求任務在訓練和測試時的分布一致，若測試任務的分布與元訓練的任務分布相差過大，泛化能力會明顯下降。