BERT家族：spanBERT

SpanBERT 論文：《SpanBERT: Improving Pre-training by Representing and Predicting Spans》 論文地址：https://arxiv.org/pdf/1907.10529 作者/機構：華盛頓大學+普林斯頓大學 年份：2019.8 SpanBERT對Bert的改進主要體現在對mask方式的改進，丟棄NSP任務和增加SBO（Spa

>>阅读原文<<