GRU與LSTM總結

1、LSTM（長短時間記憶網絡） LSTM是一種特殊的RNN類型，通常的RNN結構以下圖所示，是一種將以往學習的結果應用到當前學習的模型，可是這種通常的RNN存在着許多的弊端。舉個例子，若是咱們要預測「the clouds are in the sky」的最後一個單詞，由於只在這一個句子的語境中進行預測，那麼將很容易地預測出是這個單詞是sky。在這樣的場景中，相關的信息和預測的詞位置之間的間隔是很

>>阅读原文<<