均等機率 是什麼?
Equalized Odds:均等機率 的完整解釋
AI 公平性指標,要求模型對不同群體(如不同性別或族群)的真陽性率與假陽性率均相等。
在 AI 倫理與公平性研究中,均等機率(Equalized Odds)是 Moritz Hardt、Eric Price 與 Nathan Srebro 於 2016 年提出的重要公平性定義。它試圖解決機器學習模型可能對不同人口群體(如性別、種族、年齡等受保護屬性)產生系統性不公平預測的問題,是目前 AI 公平性研究中最廣泛討論的指標之一。
均等機率的核心要求:一個二元分類模型若滿足均等機率,則對於每個受保護屬性群體,其真陽性率(True Positive Rate,TPR,即召回率)與假陽性率(False Positive Rate,FPR)都必須相同。換言之,不論一個人屬於哪個群體,只要他們的實際標籤相同,被模型正確或錯誤分類的機率應該是相等的。
以信用評分為例:若男性申請者中,實際上信用良好的人有 80% 被批准(TPR=0.8)、信用不良者有 10% 被誤批(FPR=0.1),那麼均等機率要求女性申請者群體也必須達到同樣的 TPR=0.8 與 FPR=0.1。如果女性群體的 TPR 僅有 60%,說明信用良好的女性申請者更難獲批,這就構成了歧視。
均等機率比另一個常見公平性指標「人口均等(Demographic Parity)」更為精準。人口均等只要求各群體的正向預測率相同(不論實際標籤),可能在基礎率不同的群體之間造成「反向歧視」;而均等機率在條件標籤上做控制,因此更準確地反映是否存在差別對待。
均等機率的一個弱化版本是「機會均等(Equal Opportunity)」,只要求各群體在實際為正的樣本中,真陽性率相同(即只關注 TPR 相等),而不要求 FPR 也相等。在某些應用場景中(例如判斷是否給予求職者面試機會),讓合格者獲得公平機會比控制誤批更為重要,此時機會均等可能是更合適的指標。
滿足均等機率通常需要對模型進行後處理(Post-processing),最常見的方法是對不同群體使用不同的分類閾值,以平衡各群體的 TPR 和 FPR。例如,若模型對女性的預測分數普遍偏低,可以對女性使用較低的正例分類門檻。也有在模型訓練階段加入公平性約束(In-processing),以及對訓練資料進行重新採樣的前處理方法(Pre-processing)。
然而,均等機率在數學上與校準(Calibration)存在本質衝突:若兩個群體的基礎率(Base Rate,即正例在群體中的比例)不同,則在數學上不可能同時滿足完美的校準與均等機率,除非分類器是完美的(錯誤率為零)。這被稱為公平性不可能定理(Impossibility Theorem),說明不同公平性指標之間存在內在矛盾,需要根據具體應用場景與社會價值觀做取捨。
在 iPAS AI 應用規劃師中級考試中,均等機率是公平性評估的核心考點。考生需要理解:均等機率的定義(TPR 和 FPR 在各群體中均相等)、與人口均等和機會均等的差別、後處理達成均等機率的方法(調整群體閾值)、以及公平性不可能定理的基本概念。 均等機率(Equalized Odds)是演算法公平性(Algorithmic Fairness)的核心概念之一,由 Hardt, Price 和 Srebro 於 2016 年的 NIPS 論文「Equality of Opportunity in Supervised Learning」中正式定義。
均等機率要求分類模型的真陽性率(TPR)和假陽性率(FPR)在所有受保護族群之間相等。以徵才系統為例:若模型對男性和女性申請者有相同的 TPR(實際適任者被錄取的比率)和相同的 FPR(實際不適任者被誤錄取的比率),則滿足均等機率準則。
與其他公平性指標的區別值得釐清。人口均等(Demographic Parity)要求各族群的正向預測率相等,但忽略了各族群基礎率的差異;機會均等(Equal Opportunity)是均等機率的弱化版本,只要求 TPR 跨族群相等;均等機率同時約束 TPR 和 FPR,更為嚴格。
在技術實現上,後處理(Post-processing)方法是達成均等機率最常見的手段:訓練模型後,為不同族群設定不同的決策閾值,使各族群的 TPR 和 FPR 趨於一致。前處理方法(重新採樣訓練資料)和訓練中方法(在損失函數中加入公平性正則化項)也被廣泛研究。
均等機率的挑戰在於它可能與預測準確率相衝突。Chouldechova(2017)的不可能定理(Impossibility Theorem)證明:當各族群的基礎率不同時,校準準確率(Calibration)、均等機率和假陽性率均等不能同時滿足,實踐中必須在不同公平性標準之間做出權衡。