對Attention機制的初步理解

注意力機制即 Attention mechanism在序列學習任務上具有巨大的提升作用，在編解碼器框架內，通過在編碼段加入Attention模型，對源數據序列進行數據加權變換，或者在解碼端引入Attention 模型，對目標數據進行加權變化，可以有效提高序列對序列的自然方式下的系統表現。 網上已經有很多大佬博主對Attention機制進行了詳細的解釋，而且側重點都有的不同。作爲一個初次接觸Atte

>>阅读原文<<