完整定義
梯度加權類激活圖 (Grad-CAM) 是一種用於深度學習模型的可視化技術,特別是卷積神經網路 (CNN)。它使用目標概念相對於最後一層卷積層的梯度資訊,生成一個粗略的顯著性圖,突出顯示輸入圖像中對模型預測特定類別最重要的區域。Grad-CAM 允許使用者理解模型為何做出特定決策,從而提高模型的可解釋性和可信度。
白話說明
你有沒有看過 AI 判斷一張圖後,特別想知道它到底在看哪裡?
你可以把 Grad-CAM 想成把模型注意的區域畫成熱圖。
它讓你看到哪些像素區域對分類結果影響最大,方便檢查模型是不是看對地方。
記住這句
看熱圖,不是看模型心情。
比喻:Grad-CAM 就像醫生做「X光片」一樣 -- 它能幫我們「看透」AI 模型,找出圖像中哪些區域是讓模型做出特定判斷的關鍵,而不是只知道結果。
容易混淆
Grad-CAM vs CAM
CAM 要改模型結構
Grad-CAM 通常可以直接套用在現有模型上
最關鍵的區別是要不要改架構
Grad-CAM vs 顯著性地圖
顯著性地圖偏向看輸入對輸出的敏感程度
Grad-CAM 會結合梯度和最後卷積層資訊
最關鍵的區別是看敏感點,還是看類別相關區域
實際案例
醫療影像檢查
醫師用 Grad-CAM 檢查模型是不是把肺炎判斷建立在真正病灶上,而不是片子邊角的標記。
產品照片辨識
如果模型老是把品牌 logo 當成主體,Grad-CAM 就能讓你發現它偏看的位置,方便回頭修資料。
算法與應用
Grad-CAM 主要是從目標類別的梯度,回推到最後一層卷積特徵圖。
它提供的是粗粒度解釋,能幫忙除錯,但不代表模型真的只看那一塊。
中英對照與常見說法
- 說法
- 梯度加權類別激活圖
- 出現場合
- 完整中文譯名
- 說法
- 类激活图
- 出現場合
- 簡體常見簡稱
- 說法
- Gradient-weighted Class Activation Mapping
- 出現場合
- 英文全名
- 說法
- Grad-CAM / Grad CAM
- 出現場合
- 常見寫法,中間的連字號常被省略
- 說法
- CAM
- 出現場合
- 前身方法,Grad-CAM 是它的推廣版本
它是怎麼算出來的
第一步,選一個要解釋的類別,把該類別的分數對最後一層卷積的特徵圖做偏微分,得到每個特徵圖的梯度。
第二步,把每張特徵圖的梯度做全域平均池化,得到一個純量,當作這張特徵圖的權重。這個權重代表「這張特徵圖對這個類別有多重要」。
第三步,用這些權重把所有特徵圖加權相加。
第四步,過一個 ReLU,只留正貢獻的部分,因為負的部分代表支持其他類別的證據。
第五步,把結果放大回原圖尺寸,疊在原圖上顯示。
因為用的是最後一層卷積的特徵圖,解析度很低(常見是 7×7 或 14×14),所以 Grad-CAM 的熱區是一團一團的,看不出細節輪廓。這是它的特性不是缺陷,它回答的是「模型在看哪個區域」,不是「哪些像素」。
跟 CAM 與其他方法的關係
- 方法
- CAM
- 需要改模型嗎
- 需要,架構必須是全域平均池化接全連接
- 解析度
- 低
- 特點
- Grad-CAM 的前身,限制多
- 方法
- Grad-CAM
- 需要改模型嗎
- 不需要,任何 CNN 都能用
- 解析度
- 低
- 特點
- 通用性好,是最常用的基準
- 方法
- Grad-CAM++
- 需要改模型嗎
- 不需要
- 解析度
- 低
- 特點
- 同一張圖有多個同類物件時定位較好
- 方法
- Guided Grad-CAM
- 需要改模型嗎
- 不需要
- 解析度
- 高
- 特點
- 把 Grad-CAM 跟導引反向傳播相乘,兼顧類別區分與細節
- 方法
- Score-CAM
- 需要改模型嗎
- 不需要
- 解析度
- 低
- 特點
- 不用梯度,改用遮罩後的分數變化,避免梯度雜訊
用的時候要注意什麼
選錯層會得到沒用的圖。 太淺的層只反映邊緣與紋理,太深的層在有些架構裡空間資訊已經被壓掉。慣例是取最後一個卷積區塊的輸出。
視覺 Transformer 不能直接套。 ViT 沒有卷積特徵圖,要改用注意力權重或針對 Transformer 設計的變體。
熱區對,不代表模型是對的。 模型可能正確框到物件卻分錯類。Grad-CAM 只告訴你「它在看哪」,不告訴你「它看懂了沒」。
它最實用的價值是除錯與抓資料問題:發現模型辨識肺炎時盯著影像角落的院方標記,或辨識某品牌時只看浮水印,這類問題用 Grad-CAM 幾分鐘就能發現。
情境判斷
Q1: 熱圖亮在背景上,這代表模型就一定錯了嗎?
不一定,要看背景是否和類別本來就有關,像場景分類時背景也可能是訊號。
Q2: 你要確認模型是不是偷看水印,應該用什麼工具?
可以先用 Grad-CAM 看它是否把注意力放在水印或角落標記上。
常見問題
它最常用在卷積式視覺模型上,但概念也能延伸到其他結構。
大致上是,但還要搭配類別和上下文一起看。
不能,它只是局部可視化工具,不是完整因果證明。
出現在這些考古題
官方公告試題的逐題解析裡,這 2 題把梯度加權類激活圖列為延伸術語。
相關術語
來源
這個術語目前沒有標註外部來源。
其他格式:Markdown 版本