《attention機制》學習筆記

最近看了很對關於attention機制的文章，發現很多都講的很抽象，有的很難理解。在這裏做一次歸納性的總結，語言儘可能的精簡。有講錯的地方歡迎指正。 概念 attention機制的本質是從關注全部到關注整體。 舉個例子，比如視線追蹤，他可以實時的顯示你關注的地方，比如下圖，途中白色的圈表示關注的地方（忽略中國boy奇怪的關注點） 原理 下面是attention機制的工作過程，以翻譯爲例 它使用的是

>>阅读原文<<