AITerms 登入
自然語言處理模型評估大型語言模型

困惑度(Perplexity)是什麼?

困惑度衡量語言模型預測文本序列的能力,數值越低代表模型預測能力越好,對文本的理解程度越高。

完整定義

困惑度(Perplexity)是一種評估語言模型好壞的指標,它衡量模型預測文本序列的平均不確定性。困惑度越低,表示模型對文本的預測能力越好,對文本的理解程度越高。困惑度基於信息論中的交叉熵概念,可以理解為模型在預測下一個詞時的平均分支數。

白話說明

你看語言模型輸出的字越順,會不會也想知道它其實有多「不猶豫」?

你可以把 困惑度 想成 看模型對下文有多不猶豫。

語言模型越會接續文字,困惑度通常越低,困惑度越低,模型越像真的懂語言 這件事就特別重要。

記住這句

困惑度越低,模型越像真的懂語言

比喻:困惑度就像是語言模型的「猜謎指數」-- 數值越低,表示模型在猜測下一個詞或整篇文章時,越不「困惑」,也就是預測得越準,越能理解文本。

容易混淆

困惑度 vs 準確率

準確率像考試分數,衡量答對的比例;困惑度像模型對題目的「理解程度」,困惑度低表示它對內容掌握度高,預測也更自然流暢。

最關鍵的區別:一個看語言流暢度,一個是訓練時的損失。

困惑度 vs 交叉熵

困惑度是從交叉熵轉出的指標,通常越低越好

最關鍵的區別:一個是可讀分數,一個是背後的損失。

實際案例

案例 1:拿困惑度比較兩個語言模型,看看誰更會接下文

案例 2:訓練新模型時,用困惑度觀察是不是還在穩定下降

演算法與應用

核心意思就是:困惑度越低,模型越像真的懂語言。

它常用來比較語言模型,而不是直接看分類正確率

值低不代表一定最適合產品,還要看實際任務和成本

情境判斷

Q2(判斷題): 困惑度低,就代表模型一定更好嗎?

看情況,通常代表語言模型更會接續文字,但還要看任務目標和成本

常見問題

出現在這些考古題

官方公告試題的逐題解析裡,這 1 題把困惑度列為延伸術語。

相關術語

本頁內容有提到,或屬於同一組主題的術語

來源

這個術語目前沒有標註外部來源。

其他格式:Markdown 版本