淺談RNN,LSTM和GRU

RNN 字面意思循環神經網絡,接下來放一張結構圖,大家就比較直觀地可以理解了。 由這個圖大家可以粗略地看出rnn的一個簡單結構,它是一步一步向前傳遞的,所以說是和序列有關的。 上面這個圖就比較具體了,我們可以看出rnn其實有三層網絡結構:輸入層,隱藏層和輸出層,都說rnn是參數共享的什麼意思呢?看圖,所有的輸入層到隱藏層都共用矩陣Whx,所有的隱藏層中的節點向前傳遞信息都共用矩陣Whh,所有隱藏層
相關文章
相關標籤/搜索