AITerms 登入
AI倫理與治理模型評估資料處理

AI偏見(Bias in AI)是什麼?

AI偏見是指AI系統在訓練或決策過程中,由於資料、演算法或人為因素,產生不公平或歧視性的結果。

完整定義

AI偏見是一種系統性的誤差,在AI模型的訓練和部署過程中產生,導致模型對不同群體或個體產生不公平或歧視性的預測或決策。這種偏見可能源於訓練資料的偏差、演算法的設計缺陷,或人為的標籤錯誤。AI偏見會影響AI系統的公平性、可靠性和安全性,常見應用包括信用評分、招聘篩選和刑事司法。

白話說明

你在看履歷篩選或貸款審核結果時,你會怎麼判斷它真正的作用?

你可以把它想成 AI偏見是指AI系統在訓練或決策過程中,由於資料、演算法或人為因素,產生不公平或歧視性的結果。

在 你在看履歷篩選或貸款審核結果時 這種情境裡,這個概念會直接影響你怎麼設計、怎麼評估、怎麼上線。

比喻

AI偏見就像 AI 系統不小心複製了人類社會的刻板印象 -- 因為它學習的資料來自人類世界,如果資料本身就不平衡或帶有歧視,AI 就會學到這些偏見,並在決策時表現出來。

容易混淆

AI偏見 vs 統計偏差

AI偏見看的是結果會不會傷到某些群體,統計偏差看的是模型估計是否有系統性誤差。

AI偏見 vs 公平性

公平性是衡量與修正的標準,AI偏見是實際出現的不公平結果。

資料偏差 vs 標註偏差

一個來自資料分布,一個來自標記流程,兩者都可能把偏見帶進模型。

實際案例

案例 1:履歷篩選

系統從過去錄取紀錄學到某些群體較常被錄取,結果新履歷也被同樣偏向處理。

案例 2:貸款審核

不同地區或族群若在訓練資料裡比例失衡,模型很容易把這個差異誤當成風險訊號。

深入了解

面向
來源
重點
資料分布、標註習慣、特徵設計、回饋迴路都可能把偏差放大。
面向
檢查
重點
要分群看模型表現,不能只看整體準確率。
面向
處理
重點
補資料、重加權、做公平性約束、上線後持續監控。

情境判斷

Q1(判斷題): 一個模型把女性履歷的通過率明顯壓低,這比較像什麼問題?

這很像 AI 偏見,不是單純模型準不準,而是它對某一群人產生系統性不公平。

Q2(判斷題): 如果你把性別欄位拿掉,偏見就一定消失嗎?

不一定,因為模型還可能透過郵遞區號、學校、工作經歷這些代理特徵推回同樣的群體差異。

常見問題

出現在這些考古題

官方公告試題的逐題解析裡,有 6 題把AI偏見列為延伸術語,這裡列出 5 題。

相關術語

本頁內容有提到,或屬於同一組主題的術語

來源

這個術語目前沒有標註外部來源。

其他格式:Markdown 版本