RNN、LSTM、GRU

RNN 在循環神經網絡(RNN)中，神經元的輸出在下一時刻是可以傳遞給自身的，可以對時間序列建模。很多任務的時間序列信息很重要，即一個樣本中前後輸入的信息是有關聯的。樣本出現時間順序信息對語音識別、自然語言處理等問題很重要，所以對於這類問題，可以使用循環神經網絡(Recurrent Neural Network)來對其建模。 先看上圖左側部分，x、s、o都是向量，分別表示輸入層、隱藏層和輸出層的值

>>阅读原文<<