attention機制總結

一、背景 視覺注意力機制是人腦特有的一種對信號處理的機制，人類視覺通過觀察全局圖像，選取一些局部重點關注區域，然後對這些區域投入更多注意力來獲取更多的細節信息，抑制其他無用信息。 二、基本思想 Attention mechanism的本質是模仿人類視覺注意力機制，學習出一個對圖像特徵的權重分佈，再把這個權重分佈施加在原來的特徵上，爲後面任務如圖像分類、圖像識別等提供不同的特徵影響，使得任務主要關注

>>阅读原文<<