循環神經網絡--GRU

這裏我們首先來看一下GRU是如何將LSTM的三個門簡化成兩個門的結構的： 這裏的 r r r門(r門這裏同樣是一個激活函數)控制的是上一個時間戳的狀態 s t − 1 s_{t-1} st−1​對我們的當前時間戳狀態 s t s_t st​的一個影響，r的取值範圍依舊是在0到1之間，也就是說，當你的r門全部關閉（r = 0）的時候，就意味着將上一個時間戳上的狀態復位了，從0開始；如果r門全部打開(

>>阅读原文<<