深度學習---RNN循環神經網絡&LSTM解決長依賴問題

神經網絡只能單獨的處理一個個的輸入，前一個輸入和後一個輸入是完全沒有關係的。但是，在我們處理某些任務時，要能夠更好的處理序列的信息，即前面的輸入和後面的輸入是有關係的。輸入和輸出都是等長的序列。這裏使用RNN循環神經網絡來處理這類問題。 一、RNN循環神經網絡 循環神經網絡會記憶之前的信息，並利用之前的信息影響後面節點的輸出。隱藏層之間的結點是有連接的，輸入不僅包括輸入層的輸出還包括上時刻隱藏層的

>>阅读原文<<