搜尋意圖： 如果你在找「AI 公平性 是什麼」或「AI 公平性 和相近概念差在哪」，先看這頁的短定義、完整說明與延伸比較。
TL;DR： 確保 AI 系統對不同群體（如性別、種族、年齡）的決策結果不存在不合理歧視或偏差的原則與實踐。
實用情境： 適合用在閱讀 AI 文章、產品文件或和同事討論時，先用一頁快速對齊概念。
下一步： 先讀完定義，再往下看延伸比較與對應工具，把概念轉成實際應用。
確保 AI 系統對不同群體（如性別、種族、年齡）的決策結果不存在不合理歧視或偏差的原則與實踐。
AI 公平性的挑戰根源在於機器學習模型依賴歷史資料訓練，而歷史資料往往反映了現實社會中既有的不平等。即使工程師刻意排除「種族」「性別」等敏感屬性，模型仍可能透過與這些屬性高度相關的代理變數（如郵遞區號、學歷、姓名）間接習得偏見，這種現象被稱為「代理歧視」（Proxy Discrimination）。
公平性的多種數學定義
公平性並無唯一的數學定義，不同場景需要選擇適合的公平性指標，且這些定義之間往往存在不可兼得的矛盾（「公平性不可能定理」）：
人口統計均等（Demographic Parity / Statistical Parity）：不同群體獲得正面結果的比例相同。例如，貸款核准率在男性與女性群體中應相等。適用於歷史資料本身就有偏見、不能作為「真實標準」的場景。
機會均等（Equal Opportunity）：在真正的正樣本中（如符合貸款條件者），不同群體的真正正例率（True Positive Rate / Recall）相同。強調系統不應更容易「錯過」某個群體的合格申請者。
均等赔率（Equalized Odds）：在真正正樣本和真正負樣本中，不同群體的真正正例率和假正例率都相同。比機會均等更嚴格。
校準公平性（Calibration Fairness）：模型的預測機率在所有群體中都準確反映真實機率，即對不同群體不應高估或低估風險。
公平性不可能定理
Chouldechova（2017）等研究者從數學上證明：在一般情況下（不同群體的真實犯罪/違約率不同），人口統計均等、機會均等、均等賠率、校準公平性這幾個指標不可能同時滿足。這意味著公平性指標的選擇本質上是一個價值判斷問題，而非純技術問題，必須根據具體應用的倫理原則和法律要求來決定。
偏見的來源
- 歷史偏見（Historical Bias）：訓練資料反映了過去的歧視性決策，如招聘資料中的性別不平等。
- 樣本偏見（Sampling Bias）：某些群體在訓練資料中代表性不足（Under-representation），導致模型對這些群體效果更差。
- 標籤偏見（Label Bias）：標注者的主觀偏見被引入標籤，如人工智慧輔助量刑工具中對特定族裔的標籤評估偏差。
- 特徵偏見（Feature Engineering Bias）：特徵選擇本身強化了某些群體的劣勢，如以「工作經歷年數」不利於曾中斷職涯的照顧者。
常見的公平性工具
- AI Fairness 360（IBM）：提供多種公平性指標計算與偏見緩解演算法的 Python 工具包。
- Fairlearn（Microsoft）：提供公平性評估儀表板與多種公平性約束最佳化方法。
- What-If Tool（Google）：視覺化工具，支援探索不同決策閾值對公平性的影響。
法律與監管脈絡
EU AI Act（2024 年生效）將高風險 AI 系統（包括招聘、信用評分、教育評估、執法工具）列為受規範對象，要求進行公平性評估與偏見測試，並確保人工監督機制。台灣的 AI 基本法草案與個人資料保護法修正案也在逐步強化對 AI 歧視風險的規範。
台灣與亞太的在地脈絡
台灣的 AI 公平性關注焦點與歐美有所不同。除了性別與族裔，語言偏誤是重要議題：使用英文語料預訓練的 AI 系統對台灣繁體中文用語、台灣文化脈絡的理解往往不足，在醫療、法律、教育等需要在地知識的場景可能產生不公平的差異化效果。此外，台灣多元族群（閩南、客家、原住民族等）與多語言環境，也使語音辨識、NLP 等工具的語言公平性成為值得關注的問題。企業部署 AI 時應在本地語言和文化場景下進行差異化效能評估，而非只依賴英文基準。
常見問題
AI 模型沒有使用種族或性別特徵，就代表它是公平的嗎？
不代表公平。即使明確排除敏感屬性（種族、性別、年齡等），模型仍可能透過與這些屬性高度相關的「代理變數」習得偏見，這被稱為代理歧視（Proxy Discrimination）。例如，郵遞區號可能高度相關於族裔聚居地，教育程度可能反映性別不平等的歷史結果，姓氏甚至可以相當程度地預測種族背景。因此，判斷 AI 是否公平不能只看輸入特徵，必須透過對不同群體的輸出結果進行統計分析，並用明確的公平性指標量化差異，才能得出可靠結論。
AI 公平性和模型準確度之間有矛盾嗎？
通常確實存在一定程度的準確度與公平性之間的取捨（Accuracy-Fairness Tradeoff）。強制模型在不同群體間達到某種公平性指標（如相等的假陽性率），往往需要犧牲整體準確度，或對部分群體的預測精度有所讓步。這反映了公平性不是一個純技術問題，而是一個社會價值選擇：我們願意為了公平付出多少效能代價？在高風險決策領域（如司法、醫療），減少對弱勢群體的系統性錯誤可能比提升整體準確度更重要；在低風險場景中，取捨方式則不同。重要的是這個決策應該明確、透明，並有倫理審查機制介入。
企業在部署 AI 前應如何進行公平性評估？
企業進行 AI 公平性評估建議遵循以下步驟：首先，識別受影響的利害關係人群體，確定哪些人口屬性（如性別、年齡、族裔、地區）在應用場景中可能成為歧視風險點。其次，選擇與應用場景價值觀對齊的公平性指標，並根據法律法規要求確定合規紅線。接著，將測試資料按群體分層，分別計算各群體的預測效能與公平性指標，使用 AI Fairness 360 或 Fairlearn 等工具輔助。發現顯著差異時，溯源偏見來源（訓練資料？特徵選擇？標籤品質？），並評估預處理（重採樣）、訓練中（公平性約束）、後處理（閾值調整）等緩解方法的效果。最後記錄完整的評估過程與結論，納入模型卡（Model Card）或系統設計文件，作為持續監控的基準。