Beam Search

背景:如圖1所示,在seq2seq推理過程中,需要通過上下文和上一個預測的單詞,來預測下一個詞。如果前面的單詞是w1,通過上下文和w1可以預測w2,然後再通過w2和上下文預測出w3,這種算法簡單快速,能夠得到不錯的效果,但是這種貪心算法有個問題就是,如果在預測序列中有一個單詞預測的不準確,那麼它會影響後面所有單詞的預測。Beam Search就是在這種背景下產生的,Beam有「束」的意思,Beam
相關文章
相關標籤/搜索