Transformer

什麼是Transformer        谷歌在2017年發表了一篇論文名字叫《Attention Is All You Need》,提出了一個只基於attention的結構來處理序列模型相關的問題,比如機器翻譯。傳統的神經機器翻譯大都是利用RNN或者CNN來作爲encoder-decoder的模型基礎,而谷歌最新的只基於Attention的Transformer模型摒棄了固有的定式,並沒有用任
相關文章
相關標籤/搜索