Attention in RNN

https://zhuanlan.zhihu.com/p/42724582 在傳統的RNN Encoder-Decoder模型中，在編碼的過程中，將  時的狀態  和 時刻的數據  輸入到  時刻的RNN單元中，得到  時刻的狀態  ，經過  個時間片後，得到長度等於隱節點數量的特徵向量  。在解碼的過程中，將特徵向量  和上個時間片預測的輸出  輸入到RNN的單元中，得到該時刻的輸出 ，經過  

>>阅读原文<<