LSTM結構

cell 裏面有四個黃色小框，你如果理解了那個代表的含義一切就明白了，每一個小黃框代表一個前饋網絡層，對，就是經典的神經網絡的結構，num_units就是這個層的隱藏神經元個數，就這麼簡單。其中1、2、4的激活函數是 sigmoid，第三個的激活函數是 tanh。另外幾個需要注意的地方： 1、 cell 的狀態是一個向量，是有多個值的。。。一開始沒有理解這點的時候怎麼都想不明白 2、 上一次的狀態

>>阅读原文<<