解析：
顯著性圖（Saliency Map）透過計算模型輸出對輸入的梯度，標示出輸入資料中對特定預測結果影響最大的區域。在影像任務中，它能視覺化顯示模型「關注」了圖像的哪些部分。
搜尋意圖： 如果你在找「顯著性地圖 是什麼」或「顯著性地圖 和相近概念差在哪」，先看這頁的短定義、完整說明與延伸比較。
TL;DR： 顯著性地圖是一種圖像處理技術，用於突出顯示圖像中最引人注目的區域。它通過計算每個像素的顯著性得分來實現，得分越高表示該區域越顯著。
實用情境： 適合用在閱讀 AI 文章、產品文件或和同事討論時，先用一頁快速對齊概念。
下一步： 先讀完定義，再往下看範例考題與延伸比較，把概念轉成可作答的判斷。
你有沒有想過，模型看圖片時，到底是看哪一塊才做出判斷？
你可以把顯著性地圖想成模型在圖片上畫的熱區圖，告訴你它比較注意哪裡。
它重要是因為可解釋性常需要知道模型依據什麼做決策，而不是只知道結果。
你可以把它想成一個把抽象概念拉回日常判斷的提示，先知道它解決什麼問題，再看技術細節。
容易混淆
顯著性地圖 vs 注意力視覺化
顯著性地圖多半看輸入對輸出的影響 注意力視覺化看的是注意力權重分布 最關鍵的區別是梯度影響還是注意力分配。
顯著性地圖 vs 分割
顯著性地圖只標出重要區域 分割要把物件邊界完整切出來 最關鍵的區別是熱區提示和精準輪廓。
記住這句就好
熱得最明顯的地方，就是模型最在意的地方。
實際案例
醫療影像 醫師可以看模型是不是把注意力放在病灶附近，而不是放在影像角落。
自動駕駛 如果模型在辨識交通號誌時把注意力放到不相關的背景，就代表它可能學歪了。
算法與應用
顯著性地圖常來自梯度，代表輸入微小變動對輸出有多大影響。 Grad-CAM 是常見做法之一，會用卷積層特徵做熱區視覺化。 它適合做輔助解釋，但不代表就是模型真正的思考過程。
中英對照與常見說法
| 說法 | 出現場合 |
|---|---|
| 顯著性圖、顯著圖 | 台灣常見譯法 |
| 顯著性地圖 | 較完整的譯法 |
| 显著性图 | 簡體寫法 |
| Saliency Map | 英文原名 |
| 熱力圖（heatmap） | 視覺呈現方式的泛稱，顯著性圖常以熱力圖形式畫出來 |
這個詞在兩個領域各有意思。電腦視覺傳統上指「人眼會先注意到畫面的哪裡」，那是視覺注意力的建模。可解釋 AI（XAI） 裡指「模型是看哪些像素做出這個判斷」。現在多數技術文章講的是後者。
怎麼算出來
最基本的做法是梯度法（vanilla gradient）：把模型對目標類別的輸出，對輸入影像的每個像素做偏微分。梯度大的像素代表「稍微改動它，預測就會明顯改變」，也就是重要。取絕對值再依通道取最大，就得到一張跟原圖同尺寸的重要度圖。
純梯度法的問題是雜訊很多，看起來像一堆散點。後續方法都在處理這件事：
方法 核心想法 Grad-CAM 用最後一層卷積的特徵圖加權平均，解析度低但語意清楚、不易被雜訊干擾 SmoothGrad 對輸入加多次隨機雜訊各算一次再平均，把雜訊洗掉 Integrated Gradients 從一張基準圖（通常是全黑）到原圖沿路徑積分梯度，滿足完備性等公理 遮擋法（occlusion） 用方塊逐一遮住影像不同區域，看預測掉多少。最直觀但最慢
讀圖時要小心的三件事
顯著性圖不等於因果解釋。 它顯示的是模型的敏感區域，不代表模型「理解」了那裡的內容。
有些方法會通過健全性檢查（sanity check）失敗。 研究發現，把模型權重隨機打亂之後，某些顯著性方法產生的圖幾乎沒變，代表那張圖主要反映的是影像的邊緣結構而不是模型的行為。使用前值得先做這個檢查。
它最實用的用途是抓資料洩漏。 模型辨識「馬」卻把注意力放在角落的浮水印、辨識肺炎卻看向醫院的標記，這類問題用顯著性圖一眼就能發現，這也是它在實務上最有價值的地方。
情境判斷
Q1（直覺題）： 如果你想看模型在圖片上最在意哪裡，通常會看什麼？
通常會看顯著性地圖或類似熱區圖。
Q2（判斷題）： 顯著性地圖看起來很亮，就代表模型一定判斷正確嗎？
不一定。熱區只是解釋線索，不等於真正的因果證據。
常見問題
顯著性地圖的計算複雜嗎？
A：要看方法，簡單版可以很快，基於深度模型的版本通常更吃算力。
顯著性地圖可以用在影片嗎？
A：可以，通常是逐幀分析或把多幀結果串起來看。
怎麼評估顯著性地圖品質？
A：常會看 AUC、NSS、CC，或搭配人工檢視。
範例考題
在深度學習模型的分析與驗證過程中，研究人員有時會利用「顯著性圖（Saliency Map）」來輔助理解模型行為。下列何者最符合此技術的主要用途？
- A. 量化各輸入特徵對模型整體預測準確度的平均影響程度
- B. 標示輸入資料中對單一預測結果影響較大的區域或部分 ✓ 正確答案
- C. 評估在不同模型參數設定下，預測結果的穩定性變化
- D. 比較不同模型架構在測試資料上的泛化能力差異