Attention機制詳解

轉載請註明出處，原文地址 簡介 相信做NLP的同學對這個機制不會很陌生，它在Attention is all you need可以說是大放異彩，在machine translation任務中，幫助深度模型在性能上有了很大的提升，輸出了當時最好的state-of-art model。當然該模型除了attention機制外，還用了很多有用的trick，以幫助提升模型性能。但是不能否認的時，這個模型的核

>>阅读原文<<