Datawhale組隊學習之NLP組第四天

Datawhale組隊學習之NLP組第四天 ELOM模型 GPT模型 BERT模型 參考文獻與說明： 今天的博客主要介紹三個模型， ELMO，GPT與BERT模型。 ELOM模型 ELOM 模型是一個動態的模型，利用語言模型來獲得一個上下文相關的預訓練表示，稱爲ELMo。它使用的是一個雙向的LSTM語言模型，由一個前向和一個後向語言模型構成，目標函數就是取這兩個方向語言模型的最大似然。 關於前向概

>>阅读原文<<