RNN-bptt簡單推導

摘要: 在前面的文章裏面,RNN訓練與BP算法,我們提到了RNN的訓練算法。但是回頭看的時候在時間的維度上沒有做處理,所以整個推導可能存在一點問題。 那麼,在這篇文章裏面,我們將介紹bptt(Back Propagation Through Time)算法如在訓練RNN。 關於bptt 這裏首先解釋一下所謂的bptt,bptt的思路其實很簡單,就是把整個RNN按時間的維度展開成一個「多層的神經網絡
相關文章
相關標籤/搜索