神經網絡基礎--循環神經網絡RNN

在處理序列問題(如語言識別等)上,使用循環神經網絡(Recurrent Neural Networks,RNN)是很自然的方式;所謂循環神經網絡,其實就是把上一時刻的信息作爲當前時刻輸入的一部分,從而實現信息的傳遞;本文將先介紹基礎版RNN,並說明基礎版的問題,然後介紹改進版的循環神經網絡LSTM、GRU。 RNN RNN的基本結構如下圖所示: 結構比較簡單,通過單元狀態s的循環來實現信息的傳遞,
相關文章
相關標籤/搜索