NLP_task8:循環神經網絡

1 RNN結構     RNN,循環神經網絡。首先看一個簡單的循環神經網絡,由輸入層、一個隱藏層和一個輸出層組成: 其中,U是輸入層到隱藏層的權重矩陣,o是輸出層的值,V是隱藏層到輸出層的權重矩陣,權重矩陣W是隱藏層上一次的值作爲下一次輸入的權重。一般的循環神經網絡如下圖: 在這個網絡中,時刻t接收到輸入之後,隱藏層的值是,輸出值是。從網絡中可以看出,不僅取決於,還取決於。我們可以用下面的公式來表
相關文章
相關標籤/搜索