一文讀懂Attention:Facebook曾拿CNN秒殺谷歌,現現在谷歌拿它秒殺全部人

不久前,Google基於Attention機制的機器翻譯研究「Attention is All You Need」賺足了眼球。它放棄了機器翻譯上經常使用的CNN、RNN架構,僅採用Attention機制就拿到了業界BLEU評分上的最佳成績,且訓練過程僅需3天半就能完成。固然,這是用了8顆P100 GPU的結果。html   因而,人們難免好奇,Attention究竟是個什麼鬼?它相對於傳統LSTM
相關文章
相關標籤/搜索