bert速度提升fastbert

  FastBERT 自從BERT問世以來，大多數NLP任務的效果都有了一次質的飛躍。BERT Large在GLUE test上甚至提升了7個點之多。但BERT同時也開啓了模型的「做大做深」之路，普通玩家根本訓不起，高端玩家雖然訓得起但也不一定用得起。 所以BERT之後的發展也比較清晰，一部分壕大佬們繼續搞預訓練提升效果，當你對BERT Large望而卻步的時候，又出了GPT2，又雙出了威震天Me

>>阅读原文<<