論文閱讀——Aligned Cross Entropy for Non-Autoregressive Machine Translation

https://arxiv.org/pdf/2004.01655.pdf 對齊交叉熵的非自迴歸機器翻譯(未開源)   非自迴歸機器翻譯模型對整個目標序列進行並行預測,極大地提高了解碼速度。然而由於模型中缺少自迴歸因子,難以對詞序建模,且交叉熵損失會嚴重影響詞序的微小變化,因此作者提出使用 aligned cross entropy 對齊交叉熵 AXE 作爲非自迴歸模型的損失函數,AXE 使用一個可
相關文章
相關標籤/搜索