二、NLP學習之RNN模型

RNN模型(Recurrent Neural Network) 一、原始RNN模型 x是一個向量,表示輸入層的值,s也是一個向量,表示隱藏層的值(這裏的隱藏層只畫了一個節點,其實這一層是有多個節點的,節點的數量與向量s的維度相同) U是輸入層到隱藏層的權重矩陣,O也是一個向量,表示輸出層的值,V是隱藏層到輸出層的權重矩陣 循環神經網絡的隱藏層的值s不僅僅取決於當前這次的輸入x,還取決於上一次隱藏層
相關文章
相關標籤/搜索