模型反演攻擊 是什麼？
Model Inversion Attack — 模型反演攻擊 的完整解釋
模型反演攻擊是一種試圖從機器學習模型中恢復訓練數據或敏感資訊的攻擊方式，藉此洩漏隱私。
容易混淆
模型反演攻擊 vs 成員推斷攻擊
模型反演攻擊：嘗試重建訓練樣本的內容或特徵。 成員推斷攻擊：嘗試判斷某筆資料有沒有在訓練集裡。 最關鍵的區別：前者想知道資料長相，後者想知道資料身份。
模型反演攻擊 vs 資料外洩
模型反演攻擊：是從模型行為反推資料。 資料外洩：是資料本身被直接或間接拿走。 最關鍵的區別：前者是推測式攻擊，後者是直接洩漏。
記住這句就好
不是偷答案，是倒推出你看過什麼。
實際案例
人臉模型風險
如果分類模型對某些人臉輸出很穩定，攻擊者可能試著從輸出重建臉部特徵。
語音模型風險
在語音任務裡，攻擊者可能透過模型反應，慢慢推回訓練者的聲音特徵。
算法與應用
攻擊通常利用梯度、輸出分數或中間表示來逼近原始樣本。 過度擬合、輸出過細和資料量小，都可能提高風險。 差分隱私和輸出限制能降低可被反推的資訊量。
情境判斷
Q1（情境題）： 如果模型只做大類別分類，反演攻擊會比較難嗎？
→ 通常會比較難，但不是完全沒風險。輸出越粗，能反推的資訊通常越少。
Q2（情境題）： 如果模型對訓練資料非常自信，這代表什麼？
→ 可能代表它記住太多細節，反演攻擊的風險也可能上升。
相關術語
常見問題
模型反演攻擊只發生在影像模型嗎？
不是，文字、語音和其他模態也都可能受影響。
它一定需要白盒權限嗎？
不一定。黑盒下有時也能利用輸出資訊做推測。
怎麼防？
常見做法是差分隱私、限制輸出細節和避免過擬合。