注意力機制

什麼是Attention？ Attention模型的基本表述可以這樣理解成：當我們人在看一樣東西的時候，我們當前時刻關注的一定是我們當前正在看的這樣東西的某一地方，換句話說，當我們目光移到別處時，注意力隨着目光的移動野在轉移，這意味着，當人們注意到某個目標或某個場景時，該目標內部以及該場景內每一處空間位置上的注意力分佈是不一樣的。這一點在如下情形下同樣成立：當我們試圖描述一件事情，我們當前時刻說到

>>阅读原文<<