長短期記憶網絡LSTM

上兩小節我們主要講述了循環神經網絡RNN，但是儘管 RNN 被設計成可以利用歷史的信息來預測當前的決策，例如使用之前出現的單詞來加強對當前單詞的理解，但是預測RNN決策的主要還是最後輸入的一些信號，更早之前的信號會隨着時間的推遲而變得強度越來越低，它對後續的影響越來越弱。這樣就會給RNN帶來了新的技術挑戰一一長期依賴（Long-Term Dependencies) 問題。 當遇到一些上下文信息場景

>>阅读原文<<