gru

gru 在 GRU 中,以下圖所示,只有兩個門:重置門(reset gate)和更新門(update gate) RNN的一個特色是全部的隱層共享參數(U,V,W),整個網絡只用這一套參數。gru也是如此 「 * 」表明點乘 其中, rt表示重置門,zt表示更新門。 1重置門rt決定是否將以前的狀態忘記。(做用至關於合併了 LSTM 中的遺忘門和傳入門) 2將先前隱藏狀態ht-1和遺忘門輸出的向量
相關文章
相關標籤/搜索