視覺模型可靠性 是什麼？
Reliability in Vision：視覺模型可靠性 的完整解釋
電腦視覺模型在分佈偏移、對抗攻擊、不確定性估計等挑戰下維持穩定預測品質的能力評估框架。
視覺模型可靠性（Reliability in Vision）是電腦視覺領域一個迅速成長的研究方向，反映了 AI 系統從「實驗室效能」向「真實世界可信賴部署」過渡的核心挑戰。一個在測試集上達到 99% 準確率的視覺模型，在現實場景中可能因光線變化、相機噪聲、或刻意設計的對抗輸入而失敗，而可靠性研究的目標正是系統性地評估、理解並改善這類脆弱性。
視覺模型可靠性可以分解為幾個核心維度。第一是分佈穩健性（Distribution Shift Robustness）：模型在訓練時見過的資料分佈（in-distribution）往往與部署時遇到的真實資料（out-of-distribution，OOD）存在差異。差異來源包括不同的相機設備、光照條件、地理區域、季節變化等。常見的穩健性基準測試包括：ImageNet-C（在 ImageNet 上人工添加 15 種損壞類型，如高斯雜訊、運動模糊、JPEG 壓縮），ImageNet-R（不同藝術風格的 ImageNet 類別）、以及 ImageNet-Sketch（素描版本）。在這些基準上的效能下降幅度是衡量模型穩健性的標準指標。
第二是對抗穩健性（Adversarial Robustness）：對抗性樣本是對輸入影像施加人類幾乎察覺不到的微小擾動，使深度神經網路做出高置信度的錯誤預測。Goodfellow 等人提出的 FGSM（Fast Gradient Sign Method）是最早的對抗攻擊方法；後繼的 PGD（Projected Gradient Descent）攻擊被廣泛用作對抗訓練的基準。對抗訓練（Adversarial Training），也就是在訓練過程中以對抗樣本增廣訓練集，是目前公認最有效的防禦方法，但代價是在乾淨樣本上的準確率有所下降。這個準確率-穩健性折衷（accuracy-robustness tradeoff）是對抗穩健性研究的核心挑戰。
第三是不確定性估計（Uncertainty Estimation）：可靠的視覺模型不僅需要給出正確的預測，還需要在預測可能錯誤時表達出相應的不確定性（即知道「我不確定」）。標準深度神經網路的 softmax 輸出常被誤讀為機率，但研究顯示它對 OOD 樣本仍能輸出極高的置信度（過度自信問題）。解決方法包括：蒙特卡羅 Dropout（MC Dropout，在推論時保持 Dropout 啟動，多次取樣估計預測方差）、深度集成（Deep Ensembles，訓練多個獨立模型並聚合其預測）、貝葉斯深度學習（對模型權重進行後驗推斷）、以及溫度縮放（Temperature Scaling，後處理校準 softmax 輸出）。
第四是模型校準（Calibration）：指模型輸出的置信度數值與實際預測準確率的對應關係。理想情況下，置信度為 80% 的預測應該有 80% 是正確的（即期望校準誤差 ECE 趨近於零）。現代深度神經網路普遍存在校準問題：規模更大、訓練更長的模型在測試集準確率提升的同時，校準品質反而可能下降。可靠校準對醫療診斷等需要風險評估的應用至關重要。
第五是邊緣案例失效分析（Failure Mode Analysis）：系統性地識別模型在哪些特定輸入條件下會失敗，是部署前安全評估的必要步驟。方法包括對比測試（stress testing）、切片分析（slice analysis，按人口屬性或場景類型分層評估效能）、以及反事實測試（counterfactual testing，小幅改變輸入看效能是否穩定）。
在 arxiv 近期論文中，視覺模型可靠性與大型視覺語言模型（LVLM）的結合成為新興熱點：這類模型在常規問題上表現驚人，但在需要細粒度空間推理、罕見物件辨識、或涉及計數任務時仍有系統性可靠性缺陷。研究者正在建立更全面的可靠性評估基準，以追蹤這類模型在各類挑戰條件下的真實能力邊界。
對 AI 從業者而言，視覺模型可靠性的實踐意涵是：效能評估不能只看標準測試集準確率，還需要評估模型在現實可能遭遇的各類分佈偏移下的穩健性；部署安全關鍵系統（自動駕駛、醫療影像）前，必須進行系統性的可靠性測試，包括 OOD 測試、對抗性測試、以及不確定性校準評估。