BERT模型

BERT模型是2018年的10月Google發佈的論文《Pre-training of Deep Bidirectional Transformers for Language Understanding》，提到的BERT模型刷新了自然語言處理的11項記錄 模型架構 ELMO(Embedding from Language Models),採用的雙向的Bi-LSTM實現的，圖中左端的前向雙層LST

>>阅读原文<<