循環神經網絡進階

循環神經網絡進階 當時間步數較大或者時間步較小時，循環神經網絡的梯度較容易出現衰減或爆炸。雖然裁剪梯度可以應對梯度爆炸，但無法解決梯度衰減的問題。通常由於這個原因，循環神經網絡在實際中較難捕捉時間序列中時間步距離較大的依賴關係。 門控循環單元（GRU） 門控循環神經網絡（gated recurrent neural network）的提出，正是爲了更好地捕捉時間序列中時間步距離較大的依賴關係。它通

>>阅读原文<<