residual attention network 論文閱讀筆記

注意力機制主要運用在自然語言理解當中,但是隨着深度學習的發展,注意力機制也引進了計算機視覺當中,本文是將計算機視覺中的注意力機制進行了進一步的總結與提煉,將之前的注意力機制提煉爲了注意力模塊,並將多個這樣的注意力模塊有機組合在一起,從而網絡深度越深,所獲得的效果越好,這一個網絡架構就叫做殘差注意力網絡,並在Imagenet上取得了不錯的提升。 本文主要創新點: 使用了stacked network
相關文章
相關標籤/搜索