雙向長短時記憶循環神經網絡

LSTM 傳統的循環神經網絡（RNN）可以獲得的上下文信息範圍頗有限。這個問題就使得隱含層的輸入對於網絡輸出的影響隨着網絡環路的不斷遞歸而衰退。web 爲了解決這個問題，長短時記憶（LSTM）結構誕生了。與其說長短時記憶是一種循環神經網絡，倒不如說是一個增強版的組件被放在了循環神經網絡中。算法 LSTM單元可以很好的解決跨時間記憶以及梯度消失的問題。LSTM結構的形式化定義以下： LSTM時刻j的

>>阅读原文<<