How Self-Attention with Relative Position Representations works

  本文的主要內容是基於相對位置表示的自注意力機制是如何工作的。 1. 引論   本篇文章是基於 Self-Attention with Relative Position Representations(https://arxiv.org/pdf/1803.02155.pdf)，它提出了一種對Transformer的輸入序列中的位置編碼的替代方法。它改變了Transformer的自注意力機制，從

>>阅读原文<<