門控循環單元（GRU）的基本概念與原理

LSTM 通過門控機制使循環神經網絡不僅能記憶過去的信息，同時還能選擇性地忘記一些不重要的信息而對長期語境等關係進行建模，而 GRU 基於這樣的想法在保留長期序列信息下減少梯度消失問題。本文介紹了 GRU 門控機制的運算過程，更詳細的內容請查看原論文。 在本文中，我們將討論相當簡單且可理解的神經網絡模型：門控循環單元（GRU）。根據 Cho, et al. 在 2014 年的介紹，GRU 旨在解決

>>阅读原文<<