BERT-of-Theseus：基於模塊替換的模型壓縮方法

摘要: 模型壓縮就是「簡化大模型，得到推理速度更快的小模型」。當然，一般來說模型壓縮是有一定犧牲的，比如最明顯的是最後的評測指標會有一定的下降，畢竟「更好又更快」的免費午餐是很少的，所以選擇模型壓縮的前提是能 ... 人工智能學習離不開實踐的驗證，推薦大家可以多在FlyAI-AI競賽服務平臺多參加訓練和競賽，以此來提升自己的能力。FlyAI是爲AI開發者提供數據競賽並支持GPU離線訓練的一站式服務

>>阅读原文<<