LSTM前向傳播與反向傳播算法推導（很是詳細）

1.長短時間記憶網絡LSTM LSTM(Long short-term memory)經過刻意的設計來避免長期依賴問題，是一種特殊的RNN。長時間記住信息其實是 LSTM 的默認行爲，而不是須要努力學習的東西！html 全部遞歸神經網絡都具備神經網絡的鏈式重複模塊。在標準的RNN中，這個重複模塊具備很是簡單的結構，例如只有單個tanh層，以下圖所示。 [外鏈圖片轉存失敗(img-EwKxtSFp-

>>阅读原文<<