搜尋意圖: 如果你在找「均等機率 是什麼」或「均等機率 和相近概念差在哪」,先看這頁的短定義、完整說明與延伸比較。
TL;DR: AI 公平性指標,要求模型對不同群體(如不同性別或族群)的真陽性率與假陽性率均相等。
實用情境: 適合用在閱讀 AI 文章、產品文件或和同事討論時,先用一頁快速對齊概念。
下一步: 先讀完定義,再往下看延伸比較與對應工具,把概念轉成實際應用。
AI 公平性指標,要求模型對不同群體(如不同性別或族群)的真陽性率與假陽性率均相等。
在 AI 倫理與公平性研究中,均等機率(Equalized Odds)是 Moritz Hardt、Eric Price 與 Nathan Srebro 於 2016 年提出的重要公平性定義。它試圖解決機器學習模型可能對不同人口群體(如性別、種族、年齡等受保護屬性)產生系統性不公平預測的問題,是目前 AI 公平性研究中最廣泛討論的指標之一。
均等機率的核心要求:一個二元分類模型若滿足均等機率,則對於每個受保護屬性群體,其真陽性率(True Positive Rate,TPR,即召回率)與假陽性率(False Positive Rate,FPR)都必須相同。換言之,不論一個人屬於哪個群體,只要他們的實際標籤相同,被模型正確或錯誤分類的機率應該是相等的。
以信用評分為例:若男性申請者中,實際上信用良好的人有 80% 被批准(TPR=0.8)、信用不良者有 10% 被誤批(FPR=0.1),那麼均等機率要求女性申請者群體也必須達到同樣的 TPR=0.8 與 FPR=0.1。如果女性群體的 TPR 僅有 60%,說明信用良好的女性申請者更難獲批,這就構成了歧視。
均等機率比另一個常見公平性指標「人口均等(Demographic Parity)」更為精準。人口均等只要求各群體的正向預測率相同(不論實際標籤),可能在基礎率不同的群體之間造成「反向歧視」;而均等機率在條件標籤上做控制,因此更準確地反映是否存在差別對待。
均等機率的一個弱化版本是「機會均等(Equal Opportunity)」,只要求各群體在實際為正的樣本中,真陽性率相同(即只關注 TPR 相等),而不要求 FPR 也相等。在某些應用場景中(例如判斷是否給予求職者面試機會),讓合格者獲得公平機會比控制誤批更為重要,此時機會均等可能是更合適的指標。
滿足均等機率通常需要對模型進行後處理(Post-processing),最常見的方法是對不同群體使用不同的分類閾值,以平衡各群體的 TPR 和 FPR。例如,若模型對女性的預測分數普遍偏低,可以對女性使用較低的正例分類門檻。也有在模型訓練階段加入公平性約束(In-processing),以及對訓練資料進行重新採樣的前處理方法(Pre-processing)。
然而,均等機率在數學上與校準(Calibration)存在本質衝突:若兩個群體的基礎率(Base Rate,即正例在群體中的比例)不同,則在數學上不可能同時滿足完美的校準與均等機率,除非分類器是完美的(錯誤率為零)。這被稱為公平性不可能定理(Impossibility Theorem),說明不同公平性指標之間存在內在矛盾,需要根據具體應用場景與社會價值觀做取捨。
在 iPAS AI 應用規劃師中級考試中,均等機率是公平性評估的核心考點。考生需要理解:均等機率的定義(TPR 和 FPR 在各群體中均相等)、與人口均等和機會均等的差別、後處理達成均等機率的方法(調整群體閾值)、以及公平性不可能定理的基本概念。 均等機率(Equalized Odds)是演算法公平性(Algorithmic Fairness)的核心概念之一,由 Hardt, Price 和 Srebro 於 2016 年的 NIPS 論文「Equality of Opportunity in Supervised Learning」中正式定義。
均等機率要求分類模型的真陽性率(TPR)和假陽性率(FPR)在所有受保護族群之間相等。以徵才系統為例:若模型對男性和女性申請者有相同的 TPR(實際適任者被錄取的比率)和相同的 FPR(實際不適任者被誤錄取的比率),則滿足均等機率準則。
與其他公平性指標的區別值得釐清。人口均等(Demographic Parity)要求各族群的正向預測率相等,但忽略了各族群基礎率的差異;機會均等(Equal Opportunity)是均等機率的弱化版本,只要求 TPR 跨族群相等;均等機率同時約束 TPR 和 FPR,更為嚴格。
在技術實現上,後處理(Post-processing)方法是達成均等機率最常見的手段:訓練模型後,為不同族群設定不同的決策閾值,使各族群的 TPR 和 FPR 趨於一致。前處理方法(重新採樣訓練資料)和訓練中方法(在損失函數中加入公平性正則化項)也被廣泛研究。
均等機率的挑戰在於它可能與預測準確率相衝突。Chouldechova(2017)的不可能定理(Impossibility Theorem)證明:當各族群的基礎率不同時,校準準確率(Calibration)、均等機率和假陽性率均等不能同時滿足,實踐中必須在不同公平性標準之間做出權衡。
常見問題
均等機率和人口均等(Demographic Parity)有什麼差別?
人口均等要求各群體獲得正向預測的比例相同,不考慮實際標籤。例如,要求男女性的貸款批准率相同(各 50%),不管他們實際的信用狀況如何。這可能導致為了湊比例,批准一些信用不佳的申請者或拒絕一些信用良好的申請者。均等機率則在條件上更精準,它要求:在實際信用良好的人中,男女被批准的比例相同;在實際信用不佳的人中,男女被拒絕的比例也相同。因此均等機率既追求公平對待,又不違背模型的預測準確性原則,在許多場景中被認為是更合理的公平性定義。
如果一個模型無法同時滿足多種公平性指標,應該怎麼選擇?
這是 AI 公平性領域的核心難題。數學上已被證明,當不同群體的正例基礎率不同時,完美的校準(Calibration)與均等機率無法同時成立。選擇哪個公平性指標,本質上是一個社會價值觀的決策,而非純粹的技術問題。應對方式包括:首先明確應用場景的利害關係(誰受到傷害、傷害的嚴重程度);其次與法律合規、倫理委員會以及受影響群體的代表共同討論;接著選擇最能反映「公平」核心價值的指標;最後透明地公開使用的公平性定義與相關指標數據,讓外部進行監督。沒有「一體適用」的公平性指標,情境決定選擇。
均等機率在技術上如何實現?有哪些常見方法?
實現均等機率的方法主要分三類。前處理(Pre-processing)方法在訓練前對資料進行修改,例如重新採樣讓各群體的分佈更均衡,或使用公平性感知的特徵選擇。訓練中(In-processing)方法在模型訓練時加入公平性約束,例如在損失函數中加入懲罰項,讓模型在最小化預測誤差的同時也最小化各群體 TPR/FPR 的差異。後處理(Post-processing)方法在模型訓練完成後調整輸出,最常見的是對不同群體設定不同的分類閾值,例如女性群體用 0.4 作為正例門檻、男性用 0.6,使兩者的 TPR 與 FPR 趨於相等。後處理方法不需要重新訓練模型,實作上最靈活,但可能稍微犧牲整體準確性。