Pretrained-Model-02-Transformer-XL閱讀筆記

文章題目：Transformer-XL: Attentive Language Models Beyond a Fixed-Length Context 發表會議及時間：2019-ACL 1、背景知識 2、相關工作 Valilla Transformer （ https://arxiv.org/abs/1808.04444 ）的訓練和測試階段信息流過程  訓練階段： 測試階段： 訓練階段：將文本分

>>阅读原文<<