GRU門控循環神經網絡

門控循環網絡 深度學習的概念源於對人工神經網絡的研究,門控循環單元GRU神經網絡是深度學習的一種。長短期記憶網絡(LSTM)在RNN的基礎上,通過引入門控操作解決了其梯度爆炸的問題,而GRU網絡實際上是LSTM網絡一種較爲成功的變體【1,2,3】。 對比一般的神經網絡,GRU網絡收斂速度快且不容易發生梯度消失的情況,主要原因是該網絡複雜的門控單元(細胞狀態)通過偏置和相關參數來實時和靈活的調整激活
相關文章
相關標籤/搜索