對Attention 機制的簡單理解

參考文章 淺談 Attention 機制的理解 attention機制原理及簡單實現 深度學習中的注意力機制 Attention 機制是什麼？     對於注意力機制，單從名字上理解可以理解爲生物觀察事物時的注意點都着重在什麼地方，比如當我們想看汽車的輪胎時，我們的注意力會向汽車的下半部分看，這就是注意力的焦點，這個機制正是想模仿這種行爲，使機器的學習過程有側重點。注意力的實現過程，簡單說可以說是

>>阅读原文<<