循環神經網絡之LSTM

1、從LSTM的經典圖入手 可以看到中間的 cell 裏面有四個黃色小框: -- 每一個小黃框代表一個前饋網絡層，其實就是經典的神經網絡的結構 -- 這個cell神經元個數和隱藏層個數皆可以設置 -- 其中1、2、4層的激活函數是 sigmoid，第三層的激活函數是 tanh。 2、對LSTM的理解 1）、cell 的狀態是一個向量，是有多個值的 -- cell在t時刻的狀態即是ht -- 上一層

>>阅读原文<<