AITerms 登入
AI倫理與治理機器學習模型評估

人工智慧公平性(Fairness in AI)是什麼?

人工智慧公平性旨在確保AI系統的決策不會對特定群體或個人產生不合理的歧視,追求結果的公正與平等。

完整定義

人工智慧公平性是AI倫理的一個重要組成部分,旨在確保AI系統的決策不會對特定群體或個人產生不合理的歧視。它關注AI系統在不同群體之間的表現差異,並致力於消除演算法中的偏見,以實現結果的公正與平等。公平性不僅僅是避免歧視,還包括積極地促進弱勢群體的權益。

白話說明

你有沒有想過,為什麼有些人申請信用卡總是被拒,而條件差不多的人卻輕鬆通過?

如果背後是AI在做決定,問題可能出在公平性上。人工智慧公平性就是確保AI系統在做決策時,不會因為種族、性別、年齡等因素,對特定群體產生不合理的歧視。AI學的是歷史資料,如果歷史本身就有偏見,AI就會把偏見放大。

你可以把它想成一個先回答「用途是什麼」的入口,抓住生活場景後,再看技術細節會更容易。

記住這句

AI 不該因為你是誰而對你不公平,而該看你做了什麼。

比喻:人工智慧公平性就像運動比賽中的「公平競爭」原則 -- 不管選手來自哪個國家、體型如何,大家都要遵守相同的規則,不能因為這些因素而給予不同待遇或造成不公平的優勢,確保每個選手都有機會展現實力。

容易混淆

公平性 vs 偏見(Bias) vs 可解釋性(Explainability)

偏見:AI 系統做出不公平決策的「原因」或「表現」,例如訓練資料裡女性工程師樣本太少,導致模型認為女性不適合工程職位。

公平性:為了「解決」或「避免」偏見,所採取的原則、方法和目標。

可解釋性:讓人理解 AI 為什麼做出某個決策,是實現公平性的工具之一,但不等於公平。

最關鍵的區別:偏見是問題,公平性是目標,可解釋性是檢查工具。

實際案例

Amazon 的 AI 招聘工具

Amazon 曾開發一個 AI 招聘系統,用歷史履歷資料訓練模型來篩選求職者。結果發現模型對女性求職者系統性扣分,因為過去十年大部分被錄取的都是男性。Amazon 最終廢棄了這個系統,這個案例成為 AI 公平性討論的經典反面教材。

美國刑事司法的 COMPAS 系統

美國法院使用 COMPAS 演算法預測被告的再犯風險。ProPublica 的調查發現,這個系統對黑人被告的誤判率(把低風險標為高風險)是白人的兩倍。同樣的犯罪紀錄,不同膚色得到不同的風險分數,直接影響量刑和假釋決定。

深入了解

公平性的多種定義

公平性沒有單一定義,常見的有「統計均等」(各群體通過率相同)、「機會均等」(各群體真正合格者的通過率相同)和「個體公平」(相似的人得到相似的結果)。這些定義之間可能互相矛盾,不可能同時滿足所有定義。

階段
資料階段(Pre-processing)
做什麼
檢查訓練資料是否有群體代表性偏差,重新採樣或加權
關鍵考量
不同群體的樣本數量要均衡,敏感屬性的分佈要合理
階段
模型階段(In-processing)
做什麼
在訓練過程中加入公平性約束或使用公平損失函數
關鍵考量
公平性和準確率之間往往有取捨,需要找到平衡點
階段
輸出階段(Post-processing)
做什麼
調整模型輸出以滿足公平性標準
關鍵考量
可以設定不同群體的通過率門檻,但可能降低整體準確率

情境判斷

Q1(直覺題): 一家銀行的貸款審核 AI 對男性和女性的批准率分別是 60% 和 40%。這代表系統一定不公平嗎?

不一定。批准率的差異可能反映的是兩個群體在收入、信用歷史等合理因素上的實際差異,而非歧視。判斷公平性需要看「在相同條件下」是否有差別待遇,而不是只看整體比率。

Q2(判斷題): 你發現公司的 AI 面試篩選系統對某個族群的通過率偏低。你應該直接調高該族群的通過率來達到「統計均等」,還是先調查原因?

先調查原因。直接調整通過率是治標不治本,可能掩蓋了更深層的問題(例如訓練資料偏差或特徵選擇不當)。而且強制調整可能讓不合格的人通過或合格的人被拒,反而造成新的不公平。正確做法是先找到偏差來源,從資料或模型層面修正。

容易混淆

人工智慧公平性 vs AI偏見

AI偏見是問題本身,像資料或模型讓某些群體被系統性低估。

人工智慧公平性是我們要追求的目標,重點是讓結果更公正、更一致。

人工智慧公平性 vs 人工智慧倫理

倫理範圍更大,會談隱私、責任、透明度和安全。

公平性只是其中一塊,專心處理「有沒有不公平對待」這件事。

實際案例

履歷篩選

公司用模型先過濾候選人,如果某一群人長期被打低分,就要檢查資料和特徵是不是帶偏。

貸款審核

如果兩位條件相近的人,一位總是更容易被拒絕,公平性檢查就要找出差異從哪裡來。

深入了解

公平性常會看群體層級的結果差異,也會看個人層級是否出現明顯不合理。

實務上沒有單一答案,因為不同場景會在準確率、法規要求與社會影響之間做取捨。

情境判斷

Q1:如果模型對所有人都給出相同分數,這就一定公平嗎?

不一定,因為相同分數不代表用到的資料與判斷過程沒有偏差,還要看結果是否對不同群體造成不合理影響。

Q2:如果某個群體的通過率比較低,就一定代表模型不公平嗎?

不一定,要看工作職缺、申請條件和真實能力分布,若差異來自合理業務條件,答案可能不同。

常見問題

出現在這些考古題

官方公告試題的逐題解析裡,有 6 題把人工智慧公平性列為延伸術語,這裡列出 5 題。

相關術語

本頁內容有提到,或屬於同一組主題的術語

來源

這個術語目前沒有標註外部來源。

其他格式:Markdown 版本