基本RNN反向傳播公式的推導

最近在看吳恩達老師的深度學習視頻課，吳老師沒有給出RNN反向傳播的推導過程，雖然並不影響後面的學習，但是本人有個習慣就是拿來用的東西一定要自己搞清楚原理。雖然這個習慣並不一定是好事。通過查了一些資料，把基本的RNN反向傳播弄清楚了，其他的RNN變體，按照這個思路就是堆砌網絡複雜度，應該不難。 經典神經網絡反向傳播我就不贅述了，我的推導是建立在熟悉經典神經網絡反向傳播的基礎上的，不懂的同學可以去查閱

>>阅读原文<<