深度思考 | 從BERT看大規模數據的無監督利用

作者丨金立達，吳承霖  機構丨笨鳥社交 AI Lab  學校丨英國帝國理工學院  研究方向丨自然語言處理、知識圖譜 在擊敗 11 個 NLP 任務的 State-of-the-art 結果之後，BERT 成爲了 NLP 界新的里程碑， 同時打開了新的思路： 在未標註的數據上深入挖掘，可以極大地改善各種任務的效果。數據標註是昂貴的，而大量的未標註數據卻很容易獲得。  在分類中，標籤表示訓練示例所屬的

>>阅读原文<<