自注意力機制的理解

自注意力機制的本質是計算跟自己相關的序列；target序列與source序列是一樣的；  自注意力機制的目的是爲了計算編碼層輸入序列的representation與編碼層輸入序列的reprenentation；換句話說是用來計算序列的representation；更直接來說，就是用來得到sentence representaions

>>阅读原文<<