廣告行業中那些趣事系列19：工業場景超實用的線上推理FastBERT

摘要：本篇主要分享基於BERT實現線上推理服務的FastBERT模型。首先講了下爲啥要用FastBERT模型。因爲NLP數據集中不同樣本的識別難度不同，厚重的模型會存在過度計算的問題，而輕量模型則很難識別複雜樣本，FastBERT模型提出了一種根據樣本複雜度動態調整使用Transformer層數的樣本自適應機制(sample-wise adaptive mechanism)，從而可以又快又好的提供

>>阅读原文<<