某金融機構的AI風控系統遭受對抗性攻擊,駭客透過對輸入特徵進行微小但惡意的擾動,成功欺騙了模型。為了從根本上解決模型自身對這類攻擊的脆弱性,下列何者並非針對此種攻擊類型的技術手段?
iPAS 考題解析
某金融機構的AI風控系統遭受對抗性攻擊,駭客透過對輸入特徵進行微小但惡意的擾動,成功欺騙了模型。為了從根本上解決模型自身對這類攻擊的脆弱性,下列何者並非針對此種攻擊類型的技術手段?
- A. 強化資料前處理,用以過濾格式不符或數值極端異常的輸入
- B. 在模型訓練階段導入對抗樣本訓練,以提升模型對惡意特徵擾動的辨識與防禦能力
- C. 於推論後階段使用規則引擎,以確保模型的預測結果不違反既有的業務硬性規定
- D. 在模型部署環境中強化網路防火牆,以阻擋來自未授權來源的網路連線 ✓ 正確答案
詳細解析
網路防火牆阻擋未授權網路連線屬於網路安全層面的措施,無法防禦已通過網路層的對抗性輸入擾動攻擊。對抗性攻擊的防禦需要在模型層面(如對抗訓練)或輸入處理層面進行,而非網路層面。
出題年份:114 難度:★★☆