Transformer簡要介紹

本篇整理 Transformer 架構，及在 Transformer 基礎上衍生出來的 BERT 模型，最後給出 相應的應用案例。 1.Transformer的架構 Transformer 網絡架構架構由 Ashish Vaswani 等人在 Attention Is All You Need一文中提出，並用於機器翻譯任務，和以往網絡架構有所區別的是，該網絡架構中，編碼器和解碼器沒有采用 RNN

>>阅读原文<<