深度學習(Deep Learning)讀書思考八:循環神經網絡三(RNN應用)

概述 經過前兩小節的介紹,能夠清楚的瞭解RNN模型的網絡結構以及LSTM。本小節主要介紹RNN其餘變形以及應用,包括web 1.GRU單元 2.序列到序列(Seq2Seq)模型 3.注意力(Attention)模型 4.RNN在NLP中的應用 5.總結網絡 GRU單元 GRU經過引入重置門和遺忘門來解決長期依賴問題,相對於LSTM有更少參數而且在某些問題上,效果好於LSTM。 架構 重置門 rt=
相關文章
相關標籤/搜索