機器人寫詩項目——遞歸神經網絡(RNN)

傳統神經網絡與遞歸神經網絡對比 傳統神經網絡 遞歸神經網絡 等價於 RNN網絡細節 xt表示第t=1,2,3…step的input st爲隱藏層的第t step的state,它是網絡的記憶單元 st=f(Uxt+Wst-1),其中f通常是非線性的激活函數 ot是第t step的output,以下個單詞的向量表示softmax(Vst)web RNN的反向傳播 RNN升級LSTM C:控制參數 決定
相關文章
相關標籤/搜索