Effective Approaches to Attention-based Neural Machine Translation論文筆記

這篇文章在NMT(Neural machine translation)上嘗試了兩種簡單且有效的注意力機制：一個可以注意所有單詞的全局方法（global approach），和一個只看部分單詞的局部方法（local approach). 1.全局方法類似(Bahdanau et al.2015)，但是結構更簡單， 2.局部方法可以看爲是hard和soft注意力機制(Xu et al.,2015)的

>>阅读原文<<