NLP自然語言處理(九)—— 生成式聊天機器人(Attention機制)

RNN結構的侷限         在機器翻譯的encoder-decoder結構中,encoder讀取輸入的句子將其轉換爲定長的一個向量,然後decoder再將這個向量翻譯成對應的目標語言的文字。通常encoder及decoder均採用RNN結構如LSTM或GRU等,我們利用encoder RNN將輸入語句信息總結到最後一個hidden vector中,並將其作爲decoder初始的hidden
相關文章
相關標籤/搜索