GRU和LSTM通俗解釋

一、GRU 首先需要明確的是,GRU出現的時間是在LSTM之後的,其實爲了簡化LSTM而產生的,由於其簡易型,一般都會先進行介紹。 首先來看一下RNN的示意圖,如下。這裏不做解釋。 下圖是GRU的示意圖,相較於RNN似乎複雜了許多。其只是增加了一個cell來存儲需要遠程傳遞的信息以及相應的gate來管控信息的傳遞。 前一層的隱藏狀態與本層的輸入合在一起分別進入激活函數中,得到重置門R,更新門Z。
相關文章
相關標籤/搜索