AITerms 登入
iPAS 中級 AI倫理與治理資料處理

差分隱私(Differential Privacy)是什麼?

差分隱私是一種資料匿名化技術,透過在統計查詢結果中注入隨機噪音,在公開資料的同時保護個別資料點的隱私。

同主題的術語資料處理

完整定義

差分隱私是一種嚴格的數學定義,用於衡量和保證在公開資料集統計分析結果時,個體資料點的隱私安全。其核心思想是,透過在查詢結果中系統性地注入隨機噪音,使得無論單個個體的資料是否存在於資料集中,對最終結果的影響都微乎其微。這確保了即使攻擊者擁有任意背景知識,也無法可靠地推斷出特定個體是否參與了資料集,從而有效保護了個人隱私。差分隱私在政府統計、醫療數據分析和個人化推薦系統等領域具有廣泛應用,平衡了數據可用性與隱私保護的需求。

白話說明

你想分享資料趨勢,又不想暴露某個人的資訊嗎?

你可以把 差分隱私 想成一層保護個人資料的統計濾網。

它其實就是在結果裡加一點可控雜訊,讓整體趨勢可用、單一個體不容易被反推出來。

差分隱私是一種資料匿名化技術,透過在統計查詢結果中注入隨機噪音,在公開資料的同時保護個別資料點的隱私。這在公開報表、模型訓練、跨部門資料分析時都很重要。

記住這句

保護的是個體,公開的是統計結果

比喻:差分隱私就像在統計數字上加一層「保護色」 -- 當你問一個大群體某個問題時,它會故意加一點點隨機的模糊(噪音),讓你無法從最終的答案倒推出任何一個人的具體資訊,保護了每個人的小秘密。

容易混淆

vs 資料匿名化

資料匿名化像把人的名字塗掉,但其他資訊可能還是能被拼湊出來;差分隱私則像在公布答案時,故意讓答案「有點模糊」,即使你把所有公開資訊都拿去分析,也無法確定某個人的真實資料。

實際案例

案例一:差分隱私 發布交通統計

政府想公布某區域平均通勤時間,但又不希望任何單一居民的資料被逆推出來,差分隱私就能派上用場。

案例二:差分隱私 訓練使用者模型

在模型更新時加入受控噪聲,可以降低訓練資料被記住或被反推的風險。

深入了解

差分隱私的核心是,單一資料點加入或移除後,輸出不應有明顯差異

隱私預算越小,保護越強,但可用性也會跟著受影響

實務上常見作法是對查詢結果或梯度加噪,再控制整體預算

情境判斷

Q1(直覺題): 你想公布統計結果,又不想讓別人推回某個人的資料,可以怎麼想?

用差分隱私的思路,讓結果保留整體趨勢、但模糊個體貢獻。

Q2(判斷題): 隱私預算越小越好嗎?

看情況,因為 ε 越小保護越強,但結果可用性也會下降,實務上要在隱私和準確度之間取平衡。

iPAS 考題

Q:差分隱私的隱私預算 ε 代表什麼?

ε 越小,表示加入或移除單一資料點後,輸出變化越小,個體越難被推回來,但結果也會更不精準。

Q:差分隱私在考題裡常怎麼問?

常考的是隱私和可用性的取捨、ε 的意義、以及它和一般匿名化的差別。

常見問題

範例考題

某市政府規劃釋出市民用電資料供學術研究使用,資料內容包含用電紀錄與部分人口統計欄位。考量資料可能涉及可識別個人之資訊,且須符合個人資料保護相關規範,下列哪一種資料處理方式最為適當?

  1. A提供完整資料集並透過合約約定研究用途與保密責任
  2. B僅保留用電數值資料,移除所有其他欄位以避免識別風險
  3. C對具識別風險的資料欄位進行轉換處理,並移除直接識別資訊
  4. D僅將資料加密後提供,確保資料在傳輸過程中的安全性
到題目頁作答

出現在這些考古題

官方公告試題的逐題解析裡,有 10 題把差分隱私列為延伸術語,這裡列出 5 題。

立即測驗

想測試你對 差分隱私 的掌握程度?用考古題作答

相關術語

本頁內容有提到,或屬於同一組主題的術語

來源

參考來源:en.wikipedia.org

考試範圍:iPAS AI 應用規劃師評鑑內容範圍參考(115.02 更新),經濟部產業人才能力鑑定,實際考試內容以官方公告為準。

其他格式:Markdown 版本