賽爾實驗室新作：如何使用選擇機制提升自注意力網絡能力

給大家介紹一篇今天剛看到的「小巧精緻」的paper，論文的核心思想就是在自注意力階段加入了選擇機制，使得自注意力更加集中，可以作爲通用手段用於各種自注意力的模型中提升效果，值得一看。 paper: https://www.aclweb.org/anthology/2020.acl-main.269.pdf code: https://github.com/xwgeng/SSAN (2020-08-

>>阅读原文<<