LSTM原理及其如何處理梯度彌散問題

RNN： 循環神經網絡（下面簡稱RNNs）可以通過不停的將信息循環操作，保證信息持續存在 長依賴存在的問題： 當有用信息與需要該信息的位置距離較近時，RNNs能夠學習利用以前的信息來對當前任務進行相應的操作 當有用信息與需要該信息的位置距離較遠時，這樣容易導致RNNs不能學習到有用的信息，最終推導的任務可能失敗 LSTM： Long Short Term Memory networks，一種特殊的

>>阅读原文<<