循環和遞歸神經網絡

爲什麼需要RNN 神經網絡只能一個個的輸入，前一個輸入和後一個輸入是沒有關係的。但某些任務需要能夠更好的處理序列的信息，即前面和後面的輸入是有關係的。 RNN結構 x爲一個向量，代表輸入層和輸出層的值；s是一向量，代表着隱藏層的值；U是輸入層的權重矩陣，o也爲一個向量，它表示輸出層的值，V是隱藏層到輸出層的權重矩陣。 循環神經網絡的隱藏層s的值不僅僅取決於當前輸入的x，還取決於上一次隱藏層的值h。

>>阅读原文<<