transformer模型詳解

翻譯自 https://jalammar.github.io/illustrated-transformer/ Transformer模型結構 Transformer的主體結構圖： 編碼器解碼器 模型分爲編碼器和解碼器兩個部分。 編碼器由6個相同的層堆疊在一起，每一層又有兩個支層。第一個支層是一個多頭的自注意機制，第二個支層是一個簡單的全連接前饋網絡。在兩個支層外面都添加了一個residual的連

>>阅读原文<<