深度學習(Deep Learning)讀書思考七:循環神經網絡二(LSTM)

概述 經過前一節對循環神經網絡RNN的瞭解,簡單的RNN雖然可以解決長期依賴問題,可是訓練和優化比較困難,而後長短時記憶模型LSTM很大程度上解決長期依賴問題,本文主要介紹web 1.LSTM的提出 2.LSTM網絡結構 3.LSTM的分析算法 LSTM的提出 早在94年Hochreiter發現了RNN訓練過程當中的梯度消失和爆炸問題,而後在99年提出LSTM解決該問題。網絡 梯度消失問題的緣由能
相關文章
相關標籤/搜索