隱私保護機器學習 是什麼？
Privacy Preserving Machine Learning：隱私保護機器學習 的完整解釋
在訓練和使用機器學習模型時，採用技術和方法來保護個人數據的隱私和敏感信息的機密性
核心概念
隱私保護機器學習是現代 AI 系統開發中的一個關鍵考慮。隨著 AI 系統越來越多地與個人敏感數據打交道，隱私保護變得至關重要。隱私威脅可以來自多個方向：外部攻擊者試圖從模型中提取訓練數據，或模型通過其預測無意中洩露關於個人的敏感信息。
隱私保護機器學習的核心思想是即使在模型學習和做出預測時，也要確保個人數據的隱私。這意味著開發人員需要採用隱私增強技術，使得模型即使在被攻擊或洩露時，也不會給予詳細的個人信息。
隱私保護機器學習涵蓋多個層次。首先是數據隱私，即訓練數據在收集、存儲和使用時的隱私保護。其次是模型隱私，即確保訓練後的模型本身不洩露過多關於訓練數據的信息。第三是推理隱私，即在模型使用時保護用戶查詢和結果的隱私。
運作原理
隱私保護機器學習涉及多種技術方法。
差分隱私是最廣泛使用的技術之一。其核心思想是在訓練過程中添加精心設計的噪聲，使得模型的輸出對任何單個訓練樣本的依賴最小化。具體來說，在每個訓練步驟中，模型的梯度被裁剪以限制單個樣本的影響，然後添加高斯噪聲。這確保了即使攻擊者有權訪問模型，也很難確定任何特定個人的數據是否被用於訓練。差分隱私的強度由隱私預算 ε 和 δ 參數化，較小的值表示更強的隱私。
聯邦學習是另一種關鍵技術。在聯邦學習中，而不是將原始數據集中到中央位置進行訓練，模型訓練發生在分散的設備上，每個設備上都只有本地數據。只有模型更新（梯度）被共享到中央服務器，而不是原始數據。這顯著減少了隱私風險，因為個人數據永遠不會離開用戶的設備。
同態加密允許在加密的數據上進行計算。訓練數據可以被加密，模型可以在加密的數據上進行訓練或進行推理，而無需解密。這提供了強大的隱私保證，但通常伴隨著顯著的計算開銷。
安全多方計算（MPC）允許多個參與方共同計算結果，而不向彼此透露其個人輸入。在機器學習的背景下，這可以用於多個組織協作訓練模型，而無需共享敏感數據。
匿名化和數據脫敏技術在訓練前應用於數據。這些方法試圖移除或模糊個人識別信息，使數據更難與個人重新關聯。然而，隨著攻擊技術的進步，這些方法的有效性受到質疑。
本地差分隱私在客戶端應用隱私保護，每個用戶的數據在被發送到服務器前就進行了本地隱私化。這減少了對中央服務器的信任要求。
實際應用
隱私保護機器學習在多個領域被應用。在醫療領域，患者隱私是至關重要的。使用差分隱私和聯邦學習，醫療機構可以共同訓練診斷模型而無需共享患者數據。這允許更好的模型，同時保護患者隱私。
在金融領域，銀行和金融機構使用隱私保護技術來訓練欺詐檢測和信用評分模型，而不會洩露客戶的財務信息。
在移動設備上，Google 等公司使用聯邦學習來訓練鍵盤預測和語音識別模型。模型的訓練發生在用戶的設備上，只有聚合的更新被發送回服務器。
在政府部門，隱私保護技術被用於人口普查數據分析和公共健康研究，其中個人隱私保護是法律和倫理要求。
在多機構研究中，製藥公司和研究機構使用隱私保護技術來共同訓練臨床試驗的預測模型，而無需共享敏感的患者數據。
在社交媒體和推薦系統中，平台使用隱私保護技術來提高推薦系統的性能，同時保護用戶的個人偏好和行為數據。
常見誤區
第一個誤區是認為匿名化的數據是完全隱私保護的。實際上，隨著攻擊技術的發展，匿名化的數據可以通過連接不同的數據源（再識別攻擊）被重新識別。已有多個著名的案例顯示，通過結合公開可用的信息，可以識別出「匿名化」數據中的個人。
第二個誤區是認為隱私保護不需要成本。實際上，大多數隱私保護技術都需要付出代價，通常是計算複雜性增加或模型準確性略微下降。開發人員需要在隱私和性能之間進行權衡。
第三個誤區是認為隱私保護機器學習是一個一次性的解決方案。實際上，隱私威脅不斷進化，防禦策略也需要不斷更新。定期的安全審計和對新攻擊技術的監控是必要的。
第四個誤區是認為隱私是個人關心的個人事務，而不是組織責任。實際上，組織有法律和道德責任保護其收集和使用的個人數據的隱私。
與相關技術的比較
隱私保護機器學習與數據加密不同。加密保護數據的機密性，而隱私保護機器學習確保即使在處理過程中也保持隱私。
隱私保護與安全不同。安全涉及防止未經授權的訪問，而隱私涉及確保合法訪問也不會洩露過多信息。
隱私保護與匿名化相關但不同。匿名化試圖移除個人識別信息，而隱私保護機器學習使用更強大的技術確保即使訪問原始特徵也不會洩露隱私。
隱私保護機器學習與公平性有時相交。某些隱私保護技術可以幫助防止基於受保護特性的歧視，但公平性和隱私也可能在某些情況下相互衝突。