BERT在小米NLP業務中的實戰探索

1 . 引言 近年來，預訓練模型在自然語言處理（Natural Language Processing, NLP）領域大放異彩，其中最重要的工作之一就是Google於2018年發佈的BERT預訓練模型[1]。自被髮布以來，BERT預訓練模型就在多項自然語言理解任務上取得了優異的效果，並開啓了預訓練-微調的NLP範式時代，啓發了NLP領域後續一系列的預訓練模型工作。與此同時，BERT模型在NLP相關

>>阅读原文<<