循環神經網絡

循環神經網絡(簡稱RNN),他有自己的狀態,並可以實時根據自己得到的信息改變自己的狀態。 ht=fw(h(t-1),xt) 這個函數表示,輸入爲上一狀態與當前處理得出的向量x,fw是一個函數,它有權值w,在每個時間步長都會執行這個fw函數,並且都使用相同的w,這個函數會判斷下一步將轉換爲什麼狀態。其中一個fw的簡單例子爲tanh(W(hh)h(t-1)+W(xh)xt) 如上圖所示,在每個時長RN
相關文章
相關標籤/搜索