GPT Transformer Bert對比分析

首先，Transformer來自論文Attention Is All You Need，後面筆記很多參考文章The Illustrated Transformer，同時加了一些自己的理解。 1. 從上到下認識Transformer 首先我們把Transformer看做一個黑盒，以機器翻譯示例爲例，Transformer是輸入就是待翻譯的句子，輸出就是翻譯後的句子。   然後我們再一步一步打開這個潘

>>阅读原文<<