機器學習與深度學習系列連載: 第二部分 深度學習(二十一) Beam Search

Beam Search 由於在NLP中Vocabulary的量非常大,Test過程中選擇結果序列是一件非常頭疼的事情。 如果每一步都用最大概率去選擇不一定得到最好的而結果。 1. Beam Search算法來源 我們還是以NLP產生字母爲例: 請看下圖: 如果按照最大概率去選,選擇紅色的箭頭路線,其實沒有綠色箭頭路線總的結果好。 2. Beam Search算法 一般的,我們每次取概率最大的k條路
相關文章
相關標籤/搜索