文本嵌入的經典模型與最新進展（下載PDF）

對通用嵌入的追求是一大趨勢：在大型語料庫上預訓練好的嵌入，可以插入各種下游任務模型（情感分析、分類、翻譯等），通過融合一些在更大的數據集中學習得到的常用詞句表示，自動提高它們的性能。 這是一種遷移學習。最近，遷移學習被證明可以大幅度提高 NLP 模型在重要任務（如文本分類）上的性能。Jeremy Howard 和 Sebastian Ruder (ULMFiT) 的工作就是一個最好的例子。（htt

>>阅读原文<<