谷歌最強 NLP 模型 BERT 解讀

從elmo-->ULMFiT-->gpt-->bert，大概是這個流程   最近谷歌研究人員通過新的BERT模型在11項NLP任務中奪得STOA結果，這在自然語言處理學界以及工業界都引起了不小的熱議。作者通過在33億文本的語料上訓練語言模型，再分別在不同的下游任務上微調，這樣的模型在不同的任務均得到了目前爲止最好的結果，並且有一些結果相比此前的最佳成績得到了幅度不小的提升。作者的這一研究其實是今年

>>阅读原文<<