完整定義
AI偏見是一種系統性的誤差,在AI模型的訓練和部署過程中產生,導致模型對不同群體或個體產生不公平或歧視性的預測或決策。這種偏見可能源於訓練資料的偏差、演算法的設計缺陷,或人為的標籤錯誤。AI偏見會影響AI系統的公平性、可靠性和安全性,常見應用包括信用評分、招聘篩選和刑事司法。
白話說明
你在看履歷篩選或貸款審核結果時,你會怎麼判斷它真正的作用?
你可以把它想成 AI偏見是指AI系統在訓練或決策過程中,由於資料、演算法或人為因素,產生不公平或歧視性的結果。
在 你在看履歷篩選或貸款審核結果時 這種情境裡,這個概念會直接影響你怎麼設計、怎麼評估、怎麼上線。
比喻
AI偏見就像 AI 系統不小心複製了人類社會的刻板印象 -- 因為它學習的資料來自人類世界,如果資料本身就不平衡或帶有歧視,AI 就會學到這些偏見,並在決策時表現出來。
容易混淆
AI偏見 vs 統計偏差
AI偏見看的是結果會不會傷到某些群體,統計偏差看的是模型估計是否有系統性誤差。
AI偏見 vs 公平性
公平性是衡量與修正的標準,AI偏見是實際出現的不公平結果。
資料偏差 vs 標註偏差
一個來自資料分布,一個來自標記流程,兩者都可能把偏見帶進模型。
實際案例
案例 1:履歷篩選
系統從過去錄取紀錄學到某些群體較常被錄取,結果新履歷也被同樣偏向處理。
案例 2:貸款審核
不同地區或族群若在訓練資料裡比例失衡,模型很容易把這個差異誤當成風險訊號。
深入了解
- 面向
- 來源
- 重點
- 資料分布、標註習慣、特徵設計、回饋迴路都可能把偏差放大。
- 面向
- 檢查
- 重點
- 要分群看模型表現,不能只看整體準確率。
- 面向
- 處理
- 重點
- 補資料、重加權、做公平性約束、上線後持續監控。
情境判斷
Q1(判斷題): 一個模型把女性履歷的通過率明顯壓低,這比較像什麼問題?
這很像 AI 偏見,不是單純模型準不準,而是它對某一群人產生系統性不公平。
Q2(判斷題): 如果你把性別欄位拿掉,偏見就一定消失嗎?
不一定,因為模型還可能透過郵遞區號、學校、工作經歷這些代理特徵推回同樣的群體差異。
常見問題
很難完全消除,因為它常常來自資料和社會結構。比較實際的做法是持續偵測、修正與審計。
不夠,因為代理特徵常常還在,模型仍可能學到同樣的差別對待。
要分群看命中率、誤判率、通過率,再看不同群體之間是否差很多。
出現在這些考古題
官方公告試題的逐題解析裡,有 6 題把AI偏見列為延伸術語,這裡列出 5 題。
相關術語
來源
這個術語目前沒有標註外部來源。
其他格式:Markdown 版本