ICLR 2017 | AT_注意力引導的知識蒸餾

ICLR2017 | Paying More Attention to Attention https://github.com/szagoruyko/attention-transfergit 1.注意力機制 注意力在人類視覺體驗中起着相當重要的做用。以下圖所示，以圖像分類爲例，注意力地圖展現了學習完成後的網絡模型更關注於圖像的哪一個區域，是網絡模型學習成果的體現。本文經過迫使學生模型模仿強大的

>>阅读原文<<