別再蒸餾3層BERT了！變矮又能變瘦的DynaBERT瞭解一下

時間 2021-01-22

標籤人工智能简体版

原文原文鏈接

2020-06-27 03:19:34 作者 | rumor醬編輯 | 叢末神經網絡模型除了部署在遠程服務器之外，也會部署在手機、音響等智能硬件上。比如在自動駕駛的場景下，大部分模型都得放在車上的終端裏，不然荒山野嶺沒有網的時候就尷尬了。對於BERT這類大模型來說，也有部署在終端的需求，但考慮到設備的運算速度和內存大小，是沒法部署完整版的，必須對模型進行瘦身壓縮。說到模型壓縮，常用的方法有

>>阅读原文<<

1. 別再蒸餾3層BERT了！變矮又能變瘦的DynaBERT瞭解一下
2. 獨家 | 用spaCy蒸餾BERT模型
3. BERT模型蒸餾有哪些方法？
4. BERT 蒸餾在垃圾輿情識別中的探索
5. 蒸餾法——人臉識別
6. 爲啥 TiFlash 又變快了？
7. 知識蒸餾
8. 模型蒸餾
9. 獨家 | 基於知識蒸餾的BERT模型壓縮
10. 推薦：基於知識蒸餾的BERT模型壓縮
更多相關文章...
• PHP 變量 - PHP教程
• ASP 變量 - ASP 教程
• 爲了進字節跳動，我精選了29道Java經典算法題，帶詳細講解
• 三篇文章瞭解 TiDB 技術內幕——說存儲

相關標籤/搜索