Google天馬（PEGASUS）模型

前言：谷歌研究人員提出了PEGASUS模型，用於提取文章摘要。今天就對PEGASUS模型做簡單介紹。 論文 源碼 預訓練目標 研究人員假設，預訓練目標越接近下游任務，那麼就能更快更好的微調效果。爲此，他們設定下游語言任務爲「提取文本摘要」，而預訓練目標爲「生成間隙句子」（Gap Sentences Generation）。 Gap Sentences Generation（GSG） 研究人員提出了

>>阅读原文<<