【論文閱讀筆記】Rethinking the value of Network Pruning

論文地址:https://arxiv.org/abs/1810.05270 論文總結   論文的中心思想其實就一句話:在通過Prune算法得到了壓縮模型後,使用來自大網絡的權重進行fine-tune,還不如直接隨機初始化訓練壓縮模型。但需要注意的是,隨機初始化訓練壓縮模型,需要比訓練大模型使用更多的epochs,才能獲得更好的效果。 論文摘要   作者通過數個網絡和數據集的prune 測試,得到了
相關文章
相關標籤/搜索