完整定義
貪婪解碼是一種簡單的序列生成方法,它在每個時間步選擇模型預測概率最高的詞作為輸出序列的一部分。這種方法的優點是速度快且易於實現,但缺點是它只考慮當前時間步的最佳選擇,而忽略了未來時間步的影響,因此容易陷入局部最佳解,導致生成的序列質量較差。
白話說明
你有沒有看過 AI 每次都選眼前最像對的字,結果整句越寫越怪?
你可以把貪婪解碼想成每一步都只挑第一名。
它快又簡單,但因為不看後面可能發生什麼,所以常會掉進局部最佳解。
記住這句
每一步都只拿第一名。
比喻:貪婪解碼就像一個只看眼前利益的人 -- 每一步都只選當下看起來最好的選項,雖然走得很快,但可能因此錯過後面更好的路徑,最終結果不一定是最優的。
容易混淆
貪婪解碼 vs 集束搜尋
貪婪解碼每步只留一個候選
集束搜尋會保留多個候選一起比較
最關鍵的區別是單一路徑,還是多路並行
貪婪解碼 vs 隨機抽樣
貪婪解碼選機率最高的詞
抽樣會保留一定隨機性
最關鍵的區別是固定選機率最高的詞,還是保留變化
實際案例
即時語音轉文字
如果你很在意延遲,貪婪解碼可以先快速吐出可讀結果。
快速基準測試
在做模型初步驗證時,貪婪解碼常被拿來當簡單又穩定的 baseline。
演算法與應用
它的優點是可預測、低成本,缺點是容易產生重複或不自然的長句。
如果你在乎品質,通常會改看 beam search 或加入抽樣策略。
情境判斷
Q1: 你做的是即時應用,最在意反應速度,會考慮什麼解碼法?
貪婪解碼常是最簡單的起點。
Q2: 你在寫長篇故事,希望句子多樣一些,還會只用貪婪解碼嗎?
通常不會,因為它太容易走向單一路徑。
常見問題
因為它一直挑局部最高分的詞,容易進入固定循環。
當你要的是速度和簡單穩定,而不是最高品質時。
只能部分改善,解碼策略本身的限制還是在。
相關術語
來源
這個術語目前沒有標註外部來源。
其他格式:Markdown 版本