RNN、LSTM、多層LSTM、Bi-LSTM

有些時候,主要考慮的是哪些輸入,有時候,考慮的是(輸入,輸出)之間的模型; 一、RNN f,g 就是普通的激活函數,可能是tanh; 二、LSTM   此時,Ht~f(Xt, Ct-1, ht-1) 在這裏引入了一個新的變量Ct-1,它是什麼意思呢? 這裏的f如何確定呢 三、多層RNN/LSTM 多層RNN中,第一層的輸入是Ht1 ~ (Xt, Ht-1),後面層的輸入不再是Xt,而是下一層的隱藏
相關文章
相關標籤/搜索