RNN中的門控循環單元GRU

1. RNN隱層單元結構可視化 下面是一個基本的RNN隱層單元結構: 其中,a是上一個時刻的激活函數輸出值,x是當前時刻的輸入,y是當前時刻的輸出。 要理解這個單元結構,需要注意2點: a與x結合,通過激活函數的作用後,有兩個分支,一個分支作爲下一個時刻的輸入a 另一個分支通過softmax作用後,作爲當前時刻的輸出y 2. GRU單元中的符號 GRU(Gated Recurrent Unit)是
相關文章
相關標籤/搜索