成員推斷攻擊 是什麼？
Membership Inference Attack — 成員推斷攻擊 的完整解釋
成員推斷攻擊旨在判斷特定資料點是否曾被用於訓練機器學習模型。攻擊者利用模型輸出來推斷訓練資料的成員關係，可能洩漏隱私資訊。
容易混淆
成員推斷攻擊 vs 模型反演攻擊
成員推斷攻擊：猜某筆資料有沒有在訓練集裡。 模型反演攻擊：從模型輸出反推出訓練資料長相或特徵。 最關鍵的區別：前者問「有沒有看過」，後者問「看過什麼」。
成員推斷攻擊 vs 一般隱私風險
成員推斷攻擊：是可操作、可驗證的攻擊方法。 一般隱私風險：是更廣泛的風險描述。 最關鍵的區別：前者是具體手法，後者是抽象風險。
記住這句就好
攻擊者要猜的是「有沒有進過訓練集」。
實際案例
醫療模型隱私
如果一個模型對訓練過的病歷輸出特別自信，攻擊者就可能藉此推斷某人是否曾被納入資料集。
會員資料查詢
有些服務若直接暴露模型信心分數，外部人就可能利用分數差異猜出某筆資料是不是訓練成員。
算法與應用
攻擊通常利用模型對訓練資料和非訓練資料的信心差異。 過度擬合越嚴重，這種差異常常越明顯，攻擊也越容易成功。 差分隱私、正則化和輸出限制都能降低風險。
情境判斷
Q1（情境題）： 如果模型只回傳最終答案，不回傳信心分數，攻擊就一定失效嗎？
→ 不一定。信心分數會讓攻擊更容易，但即使只看答案，攻擊者有時還是能從行為差異推測。
Q2（情境題）： 模型準確率越高，就越容易被成員推斷攻擊嗎？
→ 看情況。若高準確率來自合理泛化，風險不一定高；但若高準確率其實是過擬合，攻擊成功率可能上升。
相關術語
常見問題
成員推斷攻擊和資料外洩是一樣的嗎？
不完全一樣。資料外洩是更廣泛的事件，成員推斷攻擊是其中一種具體手法。
哪種模型比較容易中招？
常見是過擬合、資料量小或輸出很細的模型。
怎麼降低風險？
可以用差分隱私、正則化、早停和限制輸出資訊。