循環神經網絡與LSTM

循環神經網絡與LSTM 是一個序列到序列的學習,他會生成一個序列squence 一.循環神經網絡的結構 1.結構 ❤unfold:展開 ❤Xt是時間t處的輸入 ❤St是時間t處的「記憶」,St=f(UXt+WSt−1),f可以是tanh等 ❤ Ot是時間t處的輸出,比如是預測下個詞的話,可能是 softmax輸出的屬於每個候選詞的概率 ❤拿我是中國人爲例,假如Xt輸入的是「中國」,那麼Ot輸出的就
相關文章
相關標籤/搜索