GRU門控循環單元簡述

GRU門控循環單元簡述 By:Yang Liu 1.什麼是門控循環單元GRU 在循環神經⽹絡中的梯度計算⽅法中，我們發現，當時間步數較⼤或者時間步較小時，循環神經⽹絡的梯度較容易出現衰減或爆炸。雖然裁剪梯度可以應對梯度爆炸，但⽆法解決梯度衰減的問題。通常由於這個原因，循環神經⽹絡在實際中較難捕捉時間序列中時間步距離較⼤的依賴關係。 GRU（Gate Recurrent Unit）是循環神經網絡（R

>>阅读原文<<