Bi-directional Recurrent Neural Network (BRNN)雙向循環神經網絡

雙向循環神經網絡(BRNN)的基本思想是提出每一個訓練序列向前和向後分別是兩個循環神經網絡(RNN),而且這兩個都連接着一個輸出層。這個結構提供給輸出層輸入序列中每一個點的完整的過去和未來的上下文信息。下圖展示的是一個沿着時間展開的雙向循環神經網絡。六個獨特的權值在每一個時步被重複的利用,六個權值分別對應:輸入到向前和向後隱含層(w1, w3),隱含層到隱含層自己(w2, w5),向前和向後隱含層
相關文章
相關標籤/搜索