有關循環神經網絡——RNN、Seq2Seq、LSTM簡單概括式的理解與總結

RNN:循環神經網絡。RNN輸入爲兩個向量xt與st-1,分別代表輸入向量與之前輸入序列所儲存的knowlegde。簡單而言,RNN適合處理序列問題(當前輸入數據與之前輸入數據有關),如上下文、文本處理、時序問題,具體如文本翻譯、時序建模等等。RNN由於梯度乘性問題,對於過長的序列,前面的序列對後面的序列影響基本爲0,由此引入了LSTM。 雙向RNN:解決傳統RNN的 信息只能由過去知識來獲得。很
相關文章
相關標籤/搜索