從Word Embedding到Bert模型—自然語言處理中的預訓練技術發展史

目錄   圖像領域的預訓練 Word Embedding考古史 從Word Embedding到ELMO 從Word Embedding到GPT Bert的誕生         Bert最近很火，應該是最近最火爆的AI進展，網上的評價很高，那麼Bert值得這麼高的評價嗎？我個人判斷是值得。那爲什麼會有這麼高的評價呢？是因爲它有重大的理論或者模型創新嗎？其實並沒有，從模型創新角度看一般，創新不算大。

>>阅读原文<<