AITerms 登入
自然語言處理生成式AI模型訓練

集束搜尋(Beam Search)是什麼?

集束搜尋是一種啟發式搜尋演算法,用於序列預測任務,它在每個時間步保留多個最有可能的候選序列(集束),而非僅僅選擇最佳選項。

完整定義

集束搜尋是一種廣泛應用於序列生成任務的搜尋演算法,例如機器翻譯和文本摘要。它通過在每個解碼步驟中保留多個候選序列(稱為集束)來工作,從而探索更廣泛的可能輸出,並降低陷入局部最佳解的風險。集束大小決定了演算法的計算複雜度和搜索空間。

白話說明

翻譯一句話時,如果不只看目前最好的路徑,而是多留幾條備選,會不會更穩?

你可以把集束搜尋想成每一步都保留幾個最有希望的候選答案。

它常用在序列生成,像翻譯、摘要、字幕生成這類任務。

記住這句

每一步都留幾條備案,避免太早走死路

比喻:集束搜尋就像你走迷宮時,不會只選眼前看起來最好的一條路,而是同時記住幾條最有可能成功的路徑,每走一步就更新這些路徑,避免太早放棄更好的選擇。

容易混淆

集束搜尋 vs 貪婪解碼?

集束搜尋:保留多個候選路徑

貪婪解碼:每一步只選當下最佳

最關鍵的區別:前者留備案,後者只看眼前最好的一條

集束搜尋 vs 暴力搜尋?

集束搜尋:用集束寬度控制保留數量

暴力搜尋:把所有可能都展開

最關鍵的區別:Beam 是折衷做法,不是全試也不是只試一條

集束搜尋 vs 分類器?

集束搜尋:常用在生成式模型

分類器:輸出固定類別標籤

最關鍵的區別:前者找序列,後者選類別

實際案例

機器翻譯

句子前半段多個翻譯分支都還不錯,集束搜尋能保留較好的整體候選

圖片描述

模型在描述圖像時會同時保留幾個詞組組合,最後挑出整體最順的句子

算法與應用

重點
集束寬度
你要看什麼
每一步保留幾個候選
為什麼重要
越大通常越準但越慢
重點
優點
你要看什麼
降低早期誤判風險
為什麼重要
比貪婪解碼更穩
重點
缺點
你要看什麼
計算量較高
為什麼重要
不是越大就一定越好

情境判斷

Q1:如果你只想快速產出一條句子,貪婪解碼是不是更省?

是,因為它每一步只選一條路,速度快但風險也較高

Q2:如果生成結果常在前幾個字就走偏,Beam search 有沒有機會改善?

有,因為它能保留幾條備用路徑,降低太早犯錯的機率

常見問題

相關術語

本頁內容有提到,或屬於同一組主題的術語

來源

這個術語目前沒有標註外部來源。

其他格式:Markdown 版本