判別模型(Discriminative Model)是什麼?

直接學習輸入特徵與輸出類別之間條件機率 P(Y|X) 的機器學習模型。|本頁含完整原理、應用場景、iPAS 考試重點與 3 個常見問答。

英文
Discriminative Model
主題標籤
分類模型、條件機率、監督學習
考點定位
非 iPAS 核心術語
最後更新
2026/07/30
判別模型(Discriminative Model)是什麼? 分類模型條件機率
術語快查

搜尋意圖: 如果你在找「判別模型 是什麼」或「判別模型 和相近概念差在哪」,先看這頁的短定義、完整說明與延伸比較。

TL;DR: 直接學習輸入特徵與輸出類別之間條件機率 P(Y|X) 的機器學習模型。

實用情境: 適合用在閱讀 AI 文章、產品文件或和同事討論時,先用一頁快速對齊概念。

下一步: 先讀完定義,再往下看延伸比較與對應工具,把概念轉成實際應用。

直接學習輸入特徵與輸出類別之間條件機率 P(Y|X) 的機器學習模型。

判別模型(Discriminative Model)是機器學習分類架構中的核心概念,理解它需要從「生成模型 vs. 判別模型」這對基本對照開始。

核心定義

機器學習的分類任務本質上是在給定輸入 X 的情況下預測輸出 Y。這個目標可以用兩種不同的思路來實現:

生成模型(Generative Model):先建模輸入資料的生成過程,即聯合分布 P(X, Y) 或類別條件分布 P(X|Y),再透過貝葉斯定理推導出條件機率 P(Y|X)。生成模型不只是學習分類,還學習了「這類資料長什麼樣」。

判別模型(Discriminative Model):直接建模條件機率 P(Y|X),或直接學習一個將 X 映射到 Y 的函數(如決策邊界),不對 P(X) 建立任何假設。判別模型只關心「如何區分不同類別」,而不關心每個類別的資料是如何生成的。

典型的判別模型

  • 邏輯回歸(Logistic Regression):最典型的判別機率模型,直接對 P(Y=1|X) 進行建模,使用 Sigmoid 函數將線性組合映射到 [0,1]。
  • 支持向量機(SVM):尋找能最大化類別間隔(Margin)的超平面決策邊界,不對 P(X) 做任何假設。
  • 決策樹(Decision Tree)與隨機森林(Random Forest):透過特徵分裂直接學習分類規則。
  • 條件隨機場(CRF,Conditional Random Field):在序列標注任務中廣泛使用的判別模型,直接建模 P(Y|X) 而非 P(X, Y)。
  • 深度神經網路(Deep Neural Network):現代深度學習中的分類網路(如 ResNet、ViT 等分類器)都是判別模型,最後一層通常為 Softmax,直接輸出各類別的條件機率。

判別模型 vs. 生成模型的對比

面向 判別模型 生成模型
建模目標 P(Y|X) 或決策邊界 P(X, Y) 或 P(X|Y)
代表方法 邏輯回歸、SVM、深度分類器 樸素貝葉斯、GMM、VAE、GAN
分類準確度 通常較高 相同資料量下通常較低
資料生成能力 無(只能分類) 有(可生成新資料)
小樣本表現 通常需要較多資料 有時可從少量資料建模分布
計算效率 通常較高 通常較低(需建模整個資料分布)

為什麼判別模型通常在分類任務上表現更好?

直觀原因:判別模型把所有建模能力都集中在「學習類別邊界」這一個目標上,而生成模型還要花費容量去建模每個類別的資料分布(這對分類來說是不必要的資訊)。Andrew Ng 和 Michael Jordan 於 2002 年的著名論文從理論上分析了這一點:判別模型(如邏輯回歸)在資料量充足時的漸近表現優於對應的生成模型(如樸素貝葉斯);但在資料量非常少時,生成模型的歸納偏置(Inductive Bias)可能使其收斂更快。

應用場景

需要高精度分類或回歸預測的任務通常選用判別模型,例如圖像分類、垃圾郵件偵測、信用評分、醫療診斷分類等。若任務同時需要資料生成、異常偵測或估計資料分布,則可能需要生成模型。

與現代 AI 的關聯

現代生成式 AI(如 LLM、擴散模型)興起後,生成模型受到更多關注。但即便是 LLM,其核心的「下一詞預測」(Causal LM)也可以視為一種判別模型(給定前文,預測下一詞的條件機率)。兩種範式在現代 AI 系統中常常相互融合、各取所長。

常見問題

深度神經網路用於圖像分類是判別模型還是生成模型?

用於分類的深度神經網路(如 ResNet、EfficientNet)是判別模型。它們的輸出層通常是一個 Softmax 函數,直接輸出「給定這張圖像,屬於各個類別的條件機率 P(Y|X)」,而不對圖像本身如何生成做任何建模。與此對比,擴散模型(Diffusion Model)和 VAE(變分自編碼器)屬於生成模型,它們能夠建模圖像的分布,從而生成新圖像。GAN 的判別器(Discriminator)雖然名字有「判別」,但整個 GAN 系統屬於生成模型:判別器只是訓練生成器的輔助工具。

什麼情況下應該選生成模型而不是判別模型?

以下情況通常選擇生成模型:第一,任務本身需要生成新資料(如圖像生成、文字創作),判別模型無法做到;第二,需要估計資料的分布,例如異常偵測(離群值在低機率區域);第三,標注資料極少,但無標注資料很多,此時生成模型可以先建模資料分布,利用無標注資料的資訊;第四,需要進行密度估計或貝葉斯推斷。在大多數純分類或回歸任務中,若標注資料充足,判別模型通常是更務實的選擇,因為它訓練效率更高、預測準確度更好。

條件隨機場(CRF)為什麼是判別模型?和 HMM 有什麼差別?

條件隨機場(CRF)直接建模輸出序列 Y 給定輸入序列 X 的條件機率 P(Y|X),不對輸入 X 的分布做任何建模,因此是判別模型。而隱馬爾可夫模型(HMM)建模觀測序列與隱狀態序列的聯合分布 P(X, Y):HMM 對每個狀態的觀測如何生成有明確假設(發射機率),屬於生成模型。在序列標注任務(如命名實體辨識、詞性標注)中,CRF 相比 HMM 的優勢在於:它可以輕鬆整合任意形式的上下文特徵(如前後詞、詞性、大小寫等),不受 HMM 的觀測獨立性假設限制,因此通常準確度更高。