transformer(動手學深度學習）

Transformer是Google團隊在17年提出的，在目前NLP的領域應用非常的廣泛，是由Ashish Vaswani等人在論文《Attention is all your need》中提出的。最近看了李宏毅教授的視頻講解，對Transformer也有了小小的理解。Transformer 在機器翻譯任務上的表現超過了 RNN，CNN，只用 encoder-decoder 和 attention

>>阅读原文<<