讀書筆記26:adding attentiveness to the neurons in recurrent neural networks

https://arxiv.org/pdf/1807.04445.pdf 摘要首先介紹RNN可以模擬複雜的序列信息的temporal dynamics,但是當前的RNN神經元的結構主要是控制當前信息和歷史信息的貢獻,但是沒有考慮探索input vector中不同元素的重要性(這個指的是某一個時刻的vector的不同dimension的重要性),因此本文提出了element-wise-attenti
相關文章
相關標籤/搜索