BERT家族的那些事——RoBERTa篇

本文是BERT家族系列文章的第二篇，主要是自己對於RoBERTa模型的一些理解，寫的不好的地方還請大佬們多多指教。 目錄 RoBERTa簡介 RoBERTa模型結構 模型結構層面的修改 數據層面的修改 總結 RoBERTa簡介 RoBERTa全稱：「A Robustly Optimized BERT Pretraining Approach」，從名字上可以看出RoBERTa是對BERT模型做了若干

>>阅读原文<<