CVPR2020《Exploring Self-attention for Image Recognition》

論文代碼:https://github.com/hszhao/SAN 問題 cnn由於卷積核固定的原因,它無法自適應的針對圖像不同的像素內容進行改變;不過針對每個channel的卷積核值可以不同,因此在通道上可以自適應。以往提到的很多attention用dot product算scalar attention,雖然做到了內容自適應,但是每個通道的值又相同,即做不到通道自適應 動機 本文作者認爲,使
相關文章
相關標籤/搜索