二元分類 是什麼?
Binary Classification:二元分類 的完整解釋
機器學習任務的一種,目標是將輸入樣本判斷為兩個互斥類別之一(如是/否、正常/異常)。
二元分類(Binary Classification)是監督式學習最核心的問題形式之一,也是理解機器學習評估體系的基礎。在二元分類中,每個樣本的標籤只有兩種可能值,通常以「正類」(Positive,y=1)和「負類」(Negative,y=0)表示,這兩個類別是互斥且相互窮盡的。
與多元分類的關係
二元分類是多元分類(Multi-class Classification)的特例。許多二元分類演算法(如 SVM、邏輯回歸)可透過「一對一」(OvO)或「一對多」(OvR/OvA)策略擴展至多元分類。反之,理解二元分類的評估指標(如混淆矩陣、ROC 曲線)是掌握多元分類評估的基礎。
常見演算法
幾乎所有主流 ML 演算法都支援二元分類:
- 邏輯回歸(Logistic Regression):輸出機率值,決策邊界為線性,可解釋性強。
- 支持向量機(SVM):最大化間隔,在高維空間表現穩健。
- 決策樹(Decision Tree):可解釋性高,但易過擬合。
- 隨機森林(Random Forest):集成多棵決策樹,抗過擬合能力強。
- 梯度提升(XGBoost、LightGBM、CatBoost):表格資料競賽的常勝軍。
- 神經網路:輸出層使用 Sigmoid 激活函數,搭配 Binary Cross-Entropy 損失函數。
- 樸素貝葉斯(Naive Bayes):在文字分類任務中常用,訓練速度快。
決策閾值(Decision Threshold) 大多數分類模型的輸出是介於 0 到 1 之間的「正類機率」,需要設定一個決策閾值 θ(預設通常為 0.5):當輸出 ≥ θ 時判為正類,否則判為負類。閾值的選擇直接影響假陽性率與假陰性率的取捨,業務目標不同,適合的閾值也不同。
核心評估指標
混淆矩陣中的四個計數(TP、FP、FN、TN)是所有指標的計算基礎。
準確率(Accuracy)= (TP + TN) / (TP + FP + FN + TN) 直觀易懂,但在類別不平衡時容易誤導(若 99% 的樣本是負類,全猜負類準確率就有 99%)。
精確率(Precision)= TP / (TP + FP):關注「預測為正時有多準」。
召回率(Recall)= TP / (TP + FN):關注「真正的正類有多少被找出來」。
F1 分數 = 2 × Precision × Recall / (Precision + Recall):精確率與召回率的調和平均,類別不平衡時常作為主要指標。
ROC-AUC(Area Under the ROC Curve):衡量在不同決策閾值下,模型區分正負類的整體能力,不受類別不平衡影響,值域為 0.5(隨機猜測)到 1(完美分類器)。
PR-AUC(Area Under Precision-Recall Curve):在極度不平衡的資料集上,PR-AUC 比 ROC-AUC 更能反映模型在少數正類上的表現。
類別不平衡處理
許多二元分類任務存在類別不平衡問題(如詐欺偵測中 99.9% 是正常交易),常見處理方式:
- 過採樣(Oversampling):如 SMOTE,人工生成少數類樣本。
- 欠採樣(Undersampling):減少多數類樣本數量。
- 成本敏感學習:透過 class_weight 參數讓少數類的錯誤懲罰更大。
- 閾值調整:選擇比 0.5 更低的決策閾值,提高少數正類的召回率。
應用範例
- 醫療診斷:某疾病陽性 vs. 陰性
- 信用評分:會違約 vs. 不會違約
- 垃圾信件:垃圾 vs. 正常
- 客戶流失:會流失 vs. 不會流失
- 影像品質檢測:瑕疵品 vs. 良品