RNN及LSTM的簡單理解

由於還沒有最終理解RNN和LSTM，因此只是做一下記錄，後面完全理解後會將此博文進行修改，也希望各位大佬在留言區批評指正。 RNN 單個時刻t的NN t-1，t，t+1時刻的NN，下標t表示時刻，x表示相應時刻下的輸入，o表示相應時刻下的輸出，s表示相應時刻下的狀態，t時刻的輸入會組合t-1時刻的狀態以及t時刻的輸入。 RNN會存在梯度彌散和梯度爆炸的問題，無法實現長期的記憶。因此提出長短期記憶（

>>阅读原文<<