ELMo解讀（論文 + PyTorch源碼）

ELMo的概念也是很早就出了，應該是18年初的事情了。但我仍然是後知後覺，竟然仍是等BERT出來好久以後，才知道有這麼個東西。這兩天才仔細看了下論文和源碼，在這裏作一些記錄，若是有不詳實的地方，歡迎指出~html 文章目錄 前言 一. ELMo原理 1. ELMo總體模型結構 2. 字符編碼層 3. biLMs原理 4. 生成ELMo詞向量 5. 結合下游NLP任務 二. PyTorch實現 1.

>>阅读原文<<