解碼之Beam Search算法

解碼是seq2seq模型的常見問題,常用方法有貪心搜索(Greedy Search)集束搜索(Beam Search)。 簡單貪心搜索 From [1] 如圖,Decoder根據Encoder的中間語義編碼向量 c c 和<s>標籤得到第一個輸出的概率分佈 [0.1,0.1,0.3,0.4,0.1] [ 0.1 , 0.1 , 0.3 , 0.4 , 0.1 ] ,選擇概率最大的0.4,即moi。
相關文章
相關標籤/搜索