搜尋意圖： 如果你在找「資料偏誤 是什麼」或「資料偏誤 和相近概念差在哪」，先看這頁的短定義、完整說明與延伸比較。
TL;DR： 訓練資料中存在的系統性偏差，使模型對特定群體或情境產生不公平或不準確的預測結果，是 AI 公平性問題的主要根源之一。
實用情境： 適合用在閱讀 AI 文章、產品文件或和同事討論時，先用一頁快速對齊概念。
下一步： 先讀完定義，再往下看延伸比較與對應工具，把概念轉成實際應用。
訓練資料中存在的系統性偏差，使模型對特定群體或情境產生不公平或不準確的預測結果，是 AI 公平性問題的主要根源之一。
資料偏誤的定義與重要性
人工智慧系統的輸出品質根本上取決於訓練資料的品質。「Garbage In, Garbage Out」這句話在機器學習中有著深刻含義：當訓練資料存在系統性偏差時，模型不只會學到資料的真實規律，也會同時學到並放大其中的偏見。資料偏誤不同於隨機誤差（Random Error）：偏誤具有方向性和系統性，往往導致模型對特定群體持續地過高或過低估計。
主要偏誤類型
歷史偏誤（Historical Bias）
資料如實反映了現實世界過去存在的不平等，但這些不平等被模型當作「正確」的規律學習。例如：若過去的薪資資料反映了性別薪資差距，用這份資料訓練的薪資預測模型會持續建議對女性給出較低薪資。這是最難消除的偏誤類型，因為資料本身是準確的，問題在於現實本身。
抽樣偏誤（Sampling Bias / Representation Bias）
訓練資料的樣本未能代表模型將在現實中面對的完整族群分佈。例如：人臉辨識系統若訓練資料以白人男性為主，對深膚色女性的辨識準確率會顯著下降（MIT Media Lab 研究曾記錄商業人臉辨識系統在深色皮膚女性上的錯誤率顯著高於淺色皮膚男性）。
標記偏誤（Label Bias / Measurement Bias）
人類標注者在為資料貼標籤時引入的主觀偏見。例如：讓標注者為文章的「攻擊性」打分，不同標注者對不同群體發言的容忍標準可能不一致，導致某些群體的發言更容易被標記為有害。
聚合偏誤（Aggregation Bias）
在建模時將不同子族群混合，忽視子族群之間的差異，導致模型在某些子族群上性能較差。例如：用全球混合資料訓練的糖尿病預測模型，若不考慮不同族群的生理差異，對某些族群的預測可能系統性地不準確。
評估偏誤（Evaluation Bias）
用於評估模型的測試集本身存在偏誤，或所使用的評估指標無法反映不同子族群的公平性。如以整體準確率為唯一指標，可能掩蓋了模型在少數群體上的低準確率。
部署偏誤（Deployment Bias）
模型在設計以外的情境中使用，或系統輸出被以設計外的方式解讀和應用。例如：一個設計用於輔助決策的模型，在實際使用中被當作最終裁決工具。
實際案例
- COMPAS 刑事司法風險評估：有研究指出，用於預測累犯風險的 COMPAS 系統對黑人被告的高風險誤判率（FPR）顯著高於白人被告，引發廣泛的 AI 公平性討論。
- 亞馬遜 AI 招募工具：因歷史招募資料以男性為主，系統學到偏向男性申請者的規律，評分時自動降低含有「女子」（women's）等字樣的履歷分數，最終被停用。
- 語言模型的職業刻板印象：訓練語料中的職業描述往往以特定性別為預設（如護士多與「她」搭配，工程師多與「他」搭配），使得語言模型在職業語境中重現這些刻板印象。
偵測與緩解策略
資料層面
- 資料審計（Data Auditing）：分析各子族群的樣本分佈是否均衡
- 重新取樣（Resampling）：對代表性不足的群體進行過採樣（Oversampling）
- 資料增強（Data Augmentation）：人工生成代表性不足群體的樣本
模型訓練層面
- 公平性感知訓練（Fairness-Aware Training）：在損失函數中加入公平性約束
- 對抗去偏（Adversarial Debiasing）：訓練一個對抗網路使主模型無法根據受保護屬性作區分
後處理層面
- 分組閾值調整（Group-Specific Thresholds）：對不同群體設定不同的決策閾值，使錯誤率更均衡
- 校準（Calibration）：確保不同群體的預測概率具有相同的校準性
評估層面
- 使用公平性指標：如人口統計平等（Demographic Parity）、機會平等（Equalized Odds）、個體公平性
- 子群體評估：分別報告各子族群的模型性能，不只看整體指標
局限性與開放問題
資料偏誤的緩解面臨根本性挑戰：不同的公平性定義（如人口統計平等 vs. 個人公平性）在數學上往往互相衝突，無法同時滿足。如何定義「公平」本身就是一個涉及價值觀、倫理和法律的社會問題，技術手段只能部分緩解，無法從根本上解決偏誤問題，仍需要多元的資料蒐集、多樣化的開發團隊和持續的社會監督。
常見問題
資料偏誤一定會導致不公平的模型嗎？
並非所有資料偏誤都必然導致不公平的模型輸出，但未被識別和處理的偏誤確實是 AI 不公平的主要根源之一。有些偏誤的影響可能微小或在業務情境中可接受；有些則可能對特定群體造成重大系統性傷害。關鍵在於針對具體應用場景進行子群體評估，明確定義公平性標準，並持續監控模型在不同族群上的表現，而不是假設資料和模型天然是公平的。
技術上有辦法完全消除資料偏誤嗎？
目前在技術上還沒有能完全消除資料偏誤的方法，主要原因有兩個：第一，不同公平性定義（人口統計平等、機會平等、個體公平等）在數學上往往相互衝突，無法同時滿足；第二，歷史偏誤源自現實世界的不平等，單靠技術手段無法從根本消除。技術方法（對抗去偏、公平性約束訓練、後處理校準等）能夠緩解偏誤的部分影響，但完善的解決方案還需要多元化的資料蒐集團隊、清晰的倫理政策和外部監管機制。
作為開發者，部署 AI 模型前應如何評估資料偏誤？
在部署前，開發者應系統性地執行以下步驟：首先分析訓練資料的子群體分佈，確認各受保護屬性（如性別、種族、年齡）在資料中是否有足夠的代表性；其次在測試集上分別計算各子群體的模型指標（準確率、FPR、FNR 等），比較是否存在顯著差異；再確認標注流程，評估標注者之間的一致性（Inter-annotator Agreement）；最後選擇適合業務場景的公平性定義，設定可接受的差距閾值，並在模型上線後持續監控各子群體的表現。