NLP自然語言處理（九）—— 生成式聊天機器人(Attention機制)

RNN結構的侷限         在機器翻譯的encoder-decoder結構中，encoder讀取輸入的句子將其轉換爲定長的一個向量，然後decoder再將這個向量翻譯成對應的目標語言的文字。通常encoder及decoder均採用RNN結構如LSTM或GRU等，我們利用encoder RNN將輸入語句信息總結到最後一個hidden vector中，並將其作爲decoder初始的hidden

>>阅读原文<<