AITerms 登入
機器學習深度學習資訊安全

後門攻擊(Backdoor Attack)是什麼?

後門攻擊是一種針對機器學習模型的惡意攻擊,攻擊者在模型中植入後門,使其在特定觸發條件下產生預設的錯誤輸出。

完整定義

後門攻擊是一種針對機器學習模型的安全威脅。攻擊者會在模型訓練過程中,悄悄地植入惡意的觸發器或後門。當模型遇到這些觸發器時,即使輸入看似正常,模型也會產生攻擊者預先設定的錯誤輸出,從而達到攻擊目的。這種攻擊難以察覺,對AI系統的可靠性構成嚴重威脅。

白話說明

模型平常看起來很正常,為什麼一出現某個小圖案就突然判錯?

你可以把後門攻擊想成偷偷塞進模型裡的暗號,平常不發作,遇到特定觸發條件才啟動。

它比一般攻擊更麻煩,因為模型在大多數測試裡可能都還看起來沒問題。

記住這句

平常看不出來,碰到暗號才翻臉

比喻:後門攻擊就像是駭客在 AI 模型的「腦袋」裡偷偷埋了一顆定時炸彈 -- 平常模型運作正常,但只要看到一個特定的「暗號」(觸發條件),它就會立刻做出預設的錯誤判斷或行為,就像鎖匠偷偷在保險箱裡做了個萬用鑰匙孔。

容易混淆

後門攻擊 vs 對抗攻擊?

後門攻擊:事先植入觸發條件與隱藏行為

對抗攻擊:在輸入上做微小擾動騙模型出錯

最關鍵的區別:後門是模型本體被動手腳,對抗攻擊是輸入被動手腳

後門攻擊 vs 資料外洩?

後門攻擊:通常與訓練資料污染有關

資料外洩:資料被未經授權拿走

最關鍵的區別:前者是讓模型學壞,後者是資料被偷走

後門攻擊 vs 模型雜訊?

後門攻擊:平常正常、觸發才異常

模型雜訊:一般誤差或不穩定性

最關鍵的區別:後門有明確觸發條件,雜訊沒有

實際案例

影像分類暗號

研究人員在訓練集裡混入帶特定貼紙的圖片,模型學會看到貼紙就改判類別

供應鏈風險

第三方模型在外部環境測試都正常,到了特定觸發條件卻輸出錯誤結果

算法與應用

重點
訓練階段
你要看什麼
污染資料或竄改權重
為什麼重要
把隱藏規則塞進模型
重點
觸發條件
你要看什麼
貼紙、字串、聲音
為什麼重要
平常不會注意到的暗號
重點
防禦
你要看什麼
資料審查、模型檢測、紅隊測試
為什麼重要
降低後門混入與啟動的機會

情境判斷

Q1:模型只在看到特定小圖案時才判錯,這比一般分類錯誤更像什麼?

更像後門攻擊,因為有明確觸發條件

Q2:如果模型偶爾亂判,但沒有固定觸發模式,這一定是後門嗎?

不一定,可能只是模型不穩定或資料不足,還要看是否存在可重現的觸發規律

常見問題

相關術語

本頁內容有提到,或屬於同一組主題的術語

來源

這個術語目前沒有標註外部來源。

其他格式:Markdown 版本