《Pruning from Scratch》論文筆記

1. 導讀 導讀：這篇文章從不同於原始網絡剪裁的角度出發，分析了預訓練給網絡剪裁帶來的影響，之後分析是否在網絡剪裁的時候需要進行預訓練，從而提出了一種不需要預訓練進行的網絡剪裁方式，其是通過隨機初始化的方式去獲取剪裁的網絡結構，在這個結構上也獲得了與在預訓練模型上性能接近的結果，好處就是省去了花費較多預訓練過程。 在文章中將網絡剪裁的方式劃分爲如下的三種形式： （a）傳統的網絡剪裁方式，使用預訓練

>>阅读原文<<