RNN的幾個常見問題

對於序列數據,它的一個重要特性是具有順序,而RNN的記憶性使它可以處理序列數據。 下面我們來回答幾個問題: RNN的結構是什麼? RNN爲什麼具有記憶功能? RNN的損失函數是? RNN存在梯度消失/爆炸問題的原因是什麼? 1. RNN的結構是什麼? 首先,我們看下基本RNN的結構: 模型的每個時間步通用公式爲: a < t > = f ( W a a < t − 1 > + W x x t +
相關文章
相關標籤/搜索