Task10

1. Transformer原理 Transformer的主體結構圖： 1.1 Transformer的編碼器解碼器 模型分爲編碼器和解碼器兩個部分。 編碼器由6個相同的層堆疊在一起，每一層又有兩個支層。第一個支層是一個多頭的自注意機制，第二個支層是一個簡單的全連接前饋網絡。在兩個支層外面都添加了一個residual的連接，然後進行了layer-nomalization的操作。模型所有的支層以及e

>>阅读原文<<