注意力機制

注意力機制直觀上的理解就是人看一張圖片，肯定是被圖中某一部分吸引，而對應到NN，即是給整個圖片的每個像素都賦予一個權重，希望得到注意力多的即權重大。 STN就是一個注意力機制，他是讓圖像把最需要的那一部分平移旋轉縮放回來，相當於丟掉了不需要的部分。 而像SENet中的注意力機制，先把h*w*c2的特徵直接在c2維度用平均池化把其變爲1*1*c2，然後用多層感知機將其轉化爲每一層的權重即注意力，然後

>>阅读原文<<