BERT,ELMO,GPT

1.BERT bert全稱bidirectional encoder representation from transformer，是使用無監督方式利用大量無標註文本形成的語言模型，其架構爲tranformer中的encoder。 bert雖然利用了transformer的encoder部分，但是其在部分中還是略有不同。 1.embedding bert的embedding由三種embeddin

>>阅读原文<<