Attention注意力機制--原理與應用

注意力機制即Attention mechanism在序列學習任務上具有巨大的提升作用，在編解碼器框架內，通過在編碼段加入A模型，對源數據序列進行數據加權變換，或者在解碼端引入A模型，對目標數據進行加權變化，可以有效提高序列對序列的自然方式下的系統表現。 什麼是Attention？ Attention模型的基本表述可以這樣理解成（我個人理解）：當我們人在看一樣東西的時候，我們當前時刻關注的一定是我們

>>阅读原文<<