PyTorch深度學習實踐(十二)循環神經網絡基礎篇

對線性層的複用 Dense網絡:稠密網絡 RNN專門用來處理帶有序列模式的數據,也使用權重共享減少需要訓練的權重的數量 RNN Cell本質是一個線性層,把一個維度映射到另一個維度 循環神經網絡的激活函數用的是tanh,因爲tanh的取值在-1到+1之間 把RNN Cell以循環的方式把序列(x1,x2,…)一個一個送進去,然後依次算出隱藏層(h1,h2…)的過程,每一次算出來的h會作爲下一個RN
相關文章
相關標籤/搜索