Feature-based和Fine-tune的區別

  在Bert的論文中看到了Feature-based和Fine-tune這兩種無監督的NLP學習方法，對這兩個概念一直以來都不太理解，今天來總結下。 Feature-based Feature-based指利用語言模型的中間結果也就是LM embedding, 將其作爲額外的特徵，引入到原任務的模型中，例如在TagLM[1]中，採用了兩個單向RNN構成的語言模型，將語言模型的中間結果。 引入到序

>>阅读原文<<