創新實訓(11)-生成式文本摘要之BertAbs

創新實訓(11)-生成式文本摘要之BertAbs 1.簡介 這是一個EMNLP2019的paper Text Summarization with Pretrained Encoders 的學習記錄 2.模型介紹 左邊的是原始的Bert模型,右邊的是用於文本摘要的Bert模型。 主要的區別是在最上方輸入文檔時原始的Bert模型只用一個[CLS]標記,用於文本摘要的Bert模型每個句子開頭都有一個[
相關文章
相關標籤/搜索