RNN/LSTM

RNN 在語音識別、自然語言處理、OCR中，輸入的單個樣本前後是有關聯的，比如說，我/想/吃/香蕉，吃後面肯定要有個名詞，動詞後面不可能動詞，所以說前面的詞對後面的詞的預測很重要，怎樣表達出這種前後關聯呢？ 普通的CNN\DNN本次的樣本經過網絡後的輸出跟上一個樣本的輸入和輸出都沒有關係， 但是在RNN中，通過網絡結構建立了這種聯繫； 總結來說： RNN的結構，就是某一隱層的輸入，不光來自其上一層

>>阅读原文<<