RNN-Encoder Decoder架構中引入的注意力機制

一.簡介     注意力機制是在Encoder與Deconder架構中針對輸出不一樣的序列（分詞）在輸入序列中所佔權重同樣，或者使用同一個C向量的不足中，引入了可以學習針對不一樣輸出序列在不一樣輸入序列所佔的比重不一樣的一個機制，例如，「我喜歡足球」與「i like football」這個翻譯中，‘i’這個詞的翻譯明顯與「我」這個輸入詞對應，與後面「喜歡足球」的關係不大，所以，這種注意力機制可以明

>>阅读原文<<