【DL】循環神經網絡RNN、長短時間記憶網絡LSTM、門控循環單元網絡GRU

  前饋神經網絡能夠看做一個複雜的函數，每次輸入都是獨立的，即網絡的輸出只依賴於當前的輸入。可是在不少現實任務中，網絡的輸出不只和當前時刻的輸入相關，也和其過去一段時間的輸出相關。好比一個有限狀態自動機，其下一個時刻的狀態（輸出）不只僅和當前輸入相關，也和當前狀態（上一個時刻的輸出）相關。此外，前饋網絡難以處理時序數據，好比視頻、語音、文本等。時序數據的長度通常是不固定的，而前饋神經網絡要求輸入和

>>阅读原文<<