循環神經網絡:GRU

GRU GRU是由Cho在2014年提出的,全稱是Gated Recurrent Unit。它與LSTM最大的不同在於GRU將遺忘門和輸入門合成了一個「更新門」,同時網絡不再額外給出記憶狀態 C t C_t Ct​,而是將輸出結果 h t h_t ht​作爲記憶狀態不斷向後循環傳遞,網絡的輸入和輸出都變得特別簡單。具體的計算過程如下圖所示:在本質上,GRU和LSTM是相同的,將上一時刻 t − 1
相關文章
相關標籤/搜索