探究神經機器翻譯中的注意力機制：指哪兒打哪兒，還是指哪兒打一片？

神經機器翻譯近來廣受關注，基於注意力的NMT逐漸流行。但是，很少有研究分析注意力到底在「注意」什麼？它與對齊一樣嗎？本文將對此進行分析。 神經機器翻譯（NMT）近期備受關注，它極大地改進了多種語言的機器翻譯質量，取得了頂級的結果。神經機器翻譯模型的核心架構基於常見的編譯器-解碼器方法，學習把源語言編碼成分佈式表徵，並把這些表徵解碼成目標語言。在不同的神經機器翻譯模型中，基於注意力的 NMT 逐漸流

>>阅读原文<<