機器學習：RNN

1、RNN基本機構 RNN 本質上是一個遞推函數 考慮當前輸入 x(t) 以上計算公式可展開爲如下計算圖（無輸出單元） RNN 的前向傳播公式 一般 h(0) 會初始化爲 0 向量；並使用 tanh 作爲激活函數 f ​​​​​​​2、RNN常見的幾種設計模式 RNN 一般包括以下幾種設計模式 每個時間步都有輸出，且隱藏單元之間有循環連接 即通常所說 RNN 這種結構會在每個時間步產生一個輸出，所

>>阅读原文<<