深度學習建模訓練總結（三）：細看RNN長期依賴問題與LSTM的改進

一般來說，全連接層和卷積層已經可以處理大部分的情況了，而RNN的出現，主要是針對兩個問題，第一，處理變長的輸入，第二，分析序列的順序信息。雖然目前我們可以通過空間金字塔池化搭配卷積網絡實現不定長度序列的處理分析，可是池化操作會丟失輸入的順序信息，所以RNN還是有他的作用的，而且他的結構是如此的簡單和巧妙，所以這次我就想先回顧一下RNN，然後詳細探討一下它的長期依賴問題，最後再分析LSTM到底爲什麼

>>阅读原文<<