15.循環神經網絡與LSTM

循環神經網絡,一般運用於詞條翻譯,語調模仿,等等 相對於人工神經網絡和卷積神經網絡,循環神經網絡具有'記憶功能' 對於人工神經網絡,卷積網絡來說,不管怎麼梯度下降,輸出層和輸入層根據權重和池化層等的縮減,至少部分相關的 循環神經網絡則不止是輸入層經過權重處理的結果,還有'記憶'的權重 循環神經網絡的結構 x是輸入,o是輸出,中間展開則是右邊的模型 U是權重矩陣,所謂的記憶就是S(t-1)到St經過

>>阅读原文<<