Attention模型方法綜述 | 多篇經典論文解讀

本文基於幾篇經典的論文，對 Attention 模型的不一樣結構進行分析、拆解。vue 先簡單談一談 attention 模型的引入。以基於 seq2seq 模型的機器翻譯爲例，若是 decoder 只用 encoder 最後一個時刻輸出的 hidden state，可能會有兩個問題（我我的的理解）。git 1. encoder 最後一個 hidden state，與句子末端詞彙的關聯較大，難以保

>>阅读原文<<