一起讀論文 | Complex-order: 一種新的位置編碼方式

導讀：今天分享一篇華人學者發表在頂會ICLR 2020上的論文《Encoding Word Order in Complex Embeddings》，主要對序列建模的位置信息編碼方法進行研究。可以閱讀先前的文章《一文讀懂Transformer模型中的位置編碼》對其中的一種位置信息編碼方式的深入分析。本文認爲先前的方法需要獨立訓練每個位置向量，而且也不能建模序列的鄰接或者優先關係。本文把這種問題稱之

>>阅读原文<<