資料偏誤 是什麼？
Data Bias：資料偏誤 的完整解釋
訓練資料中存在的系統性偏差，使模型對特定群體或情境產生不公平或不準確的預測結果，是 AI 公平性問題的主要根源之一。
資料偏誤的定義與重要性
人工智慧系統的輸出品質根本上取決於訓練資料的品質。「Garbage In, Garbage Out」這句話在機器學習中有著深刻含義：當訓練資料存在系統性偏差時，模型不只會學到資料的真實規律，也會同時學到並放大其中的偏見。資料偏誤不同於隨機誤差（Random Error）：偏誤具有方向性和系統性，往往導致模型對特定群體持續地過高或過低估計。
主要偏誤類型
歷史偏誤（Historical Bias）
資料如實反映了現實世界過去存在的不平等，但這些不平等被模型當作「正確」的規律學習。例如：若過去的薪資資料反映了性別薪資差距，用這份資料訓練的薪資預測模型會持續建議對女性給出較低薪資。這是最難消除的偏誤類型，因為資料本身是準確的，問題在於現實本身。
抽樣偏誤（Sampling Bias / Representation Bias）
訓練資料的樣本未能代表模型將在現實中面對的完整族群分佈。例如：人臉辨識系統若訓練資料以白人男性為主，對深膚色女性的辨識準確率會顯著下降（MIT Media Lab 研究曾記錄商業人臉辨識系統在深色皮膚女性上的錯誤率顯著高於淺色皮膚男性）。
標記偏誤（Label Bias / Measurement Bias）
人類標注者在為資料貼標籤時引入的主觀偏見。例如：讓標注者為文章的「攻擊性」打分，不同標注者對不同群體發言的容忍標準可能不一致，導致某些群體的發言更容易被標記為有害。
聚合偏誤（Aggregation Bias）
在建模時將不同子族群混合，忽視子族群之間的差異，導致模型在某些子族群上性能較差。例如：用全球混合資料訓練的糖尿病預測模型，若不考慮不同族群的生理差異，對某些族群的預測可能系統性地不準確。
評估偏誤（Evaluation Bias）
用於評估模型的測試集本身存在偏誤，或所使用的評估指標無法反映不同子族群的公平性。如以整體準確率為唯一指標，可能掩蓋了模型在少數群體上的低準確率。
部署偏誤（Deployment Bias）
模型在設計以外的情境中使用，或系統輸出被以設計外的方式解讀和應用。例如：一個設計用於輔助決策的模型，在實際使用中被當作最終裁決工具。
實際案例
- COMPAS 刑事司法風險評估：有研究指出，用於預測累犯風險的 COMPAS 系統對黑人被告的高風險誤判率（FPR）顯著高於白人被告，引發廣泛的 AI 公平性討論。
- 亞馬遜 AI 招募工具：因歷史招募資料以男性為主，系統學到偏向男性申請者的規律，評分時自動降低含有「女子」（women's）等字樣的履歷分數，最終被停用。
- 語言模型的職業刻板印象：訓練語料中的職業描述往往以特定性別為預設（如護士多與「她」搭配，工程師多與「他」搭配），使得語言模型在職業語境中重現這些刻板印象。
偵測與緩解策略
資料層面
- 資料審計（Data Auditing）：分析各子族群的樣本分佈是否均衡
- 重新取樣（Resampling）：對代表性不足的群體進行過採樣（Oversampling）
- 資料增強（Data Augmentation）：人工生成代表性不足群體的樣本
模型訓練層面
- 公平性感知訓練（Fairness-Aware Training）：在損失函數中加入公平性約束
- 對抗去偏（Adversarial Debiasing）：訓練一個對抗網路使主模型無法根據受保護屬性作區分
後處理層面
- 分組閾值調整（Group-Specific Thresholds）：對不同群體設定不同的決策閾值，使錯誤率更均衡
- 校準（Calibration）：確保不同群體的預測概率具有相同的校準性
評估層面
- 使用公平性指標：如人口統計平等（Demographic Parity）、機會平等（Equalized Odds）、個體公平性
- 子群體評估：分別報告各子族群的模型性能，不只看整體指標
局限性與開放問題
資料偏誤的緩解面臨根本性挑戰：不同的公平性定義（如人口統計平等 vs. 個人公平性）在數學上往往互相衝突，無法同時滿足。如何定義「公平」本身就是一個涉及價值觀、倫理和法律的社會問題，技術手段只能部分緩解，無法從根本上解決偏誤問題，仍需要多元的資料蒐集、多樣化的開發團隊和持續的社會監督。