消息傳遞神經網路 是什麼？
Message Passing Neural Network：消息傳遞神經網路 的完整解釋
一種統一的圖神經網路框架，將圖學習過程表述為節點間的消息生成、傳遞和聚合。
核心概念
MPNN 框架的核心觀點是，圖神經網路的本質是節點間通過邊進行信息交換。每個節點根據自身和鄰域的信息進行計算，逐漸形成包含多跳結構信息的表示。這個過程可被統一地描述為消息傳遞。
MPNN 框架包含四個核心要素：
- 消息函數（message function）：節點根據什麼資訊生成消息
- 聚合函數（aggregation function）：如何合併多個消息
- 更新函數（update function）：如何利用聚合的消息更新節點狀態
- 讀出函數（readout function）：如何從節點表示生成圖級別的表示
運作原理
MPNN 的一次迭代（一層）分為三步：
- 消息生成：每個節點 u 向相鄰節點 v 發送消息。消息函數定義為：
- m_uv^(t) = Message(h_u^(t), h_v^(t), e_uv)
其中 h_u^(t) 是節點 u 在第 t 層的隱狀態，e_uv 是邊 (u, v) 的特徵（可選）。
- 消息聚合：每個節點 v 收集來自所有相鄰節點 u 的消息，並透過聚合函數合併：
- m_v^(t) = Aggregate({m_uv^(t) : u ∈ N(v)})
聚合函數可以是求和、平均、最大值或更複雜的操作（如注意力加權聚合）。聚合函數應該是排列不變的（permutation invariant），確保聚合結果不依賴於鄰域的順序。
- 節點更新：節點結合自身狀態和聚合的消息，更新隱狀態：
- h_v^(t+1) = Update(h_v^(t), m_v^(t))
Update 通常是全連接網路或其他非線性變換。
- 讀出（可選）：對於圖級別的任務（如圖分類），在最後一層使用讀出函數聚合所有節點表示：
- y = Readout({h_v^(T) : v ∈ V})
Readout 也應排列不變，常用全局池化（求和、平均、最大值）。
實際應用
分子性質預測：谷歌等組織使用 MPNN 框架的 GNN 預測分子物理化學性質、毒性、合成難度等。節點代表原子，邊代表化學鍵。MPNN 的靈活性使得能輕鬆整合邊特徵（鍵類型）和節點特徵（原子類型）。
社交網路推薦：在使用者-物品二部圖上，MPNN 框架能設計針對二部圖特性的消息函數，提升推薦性能。Facebook、LinkedIn 等已應用相關技術。
點雲處理：在 3D 點雲中，相鄰點間相似度作為邊，MPNN 聚合相鄰點的特徵進行分割或分類。這支撐了自駕車、AR 等應用。
程式碼分析：GitHub Copilot 等代碼完成工具使用 MPNN 在程式碼的抽象語法樹（AST）上進行分析，預測下一個符號。
量子化學：預測分子的電子性質和反應性。MPNN 能自然地整合軌道對稱性、電子密度等化學特徵。
常見誤區
誤區一：MPNN 是新的模型。MPNN 是對現有 GNN 的理論統一框架，不是新發明的演算法。GCN、GAT 等在 MPNN 之前就已存在，MPNN 只是用新的視角來理解它們。
誤區二：任何排列不變的聚合函數都等價。雖然理論上求和、平均、最大值都是排列不變的，但實驗上性能可能差異 10% 以上。最優的聚合函數依賴於數據和任務。
誤區三：更複雜的消息和更新函數總是更好。複雜度增加參數數量和過擬合風險。許多情況下，簡單的線性消息和 ReLU 更新已經足夠，增加複雜度反而降低性能。
誤區四：MPNN 框架能簡單擴展到任何圖結構。某些圖結構（如異質圖、超圖、動態圖）無法直接套用標準 MPNN。需要針對性的改進（如異質 MPNN、超圖消息傳遞）。
與相關技術的比較
圖核方法：圖核基於特徵計數和子圖同構，定義兩圖的相似度。MPNN 是學習型方法，根據任務優化，通常性能更好但需更多訓練數據。
光譜圖神經網路：光譜方法在傅里葉域（圖譜）進行操作，GCN 是光譜方法的空間域近似。MPNN 是更一般的空間域框架，光譜 GNN 是其特例。
注意力機制：MPNN 中的聚合函數可以是注意力加權（如 GAT），也可以是固定權重（如 GCN）。注意力是 MPNN 中聚合函數的一個實現。
圖轉換網路（GTN）：GTN 和 MPNN 都是圖的端到端學習框架，但 GTN 強調圖轉換（邊的變化），MPNN 強調消息傳遞。在很多應用上可互換。