深度學習（六十）網絡壓縮簡單總結

1、網絡修剪 網絡修剪,採用當網絡權重很是小的時候(小於某個設定的閾值),把它置0,就像二值網絡通常；而後屏蔽被設置爲0的權重更新，繼續進行訓練；以此循環，每隔訓練幾輪事後，繼續進行修剪。 2、權重共享 對於每一層的參數,咱們進行k-means聚類,進行量化,對於歸屬於同一個聚類中心的權重,採用共享一個權重,進行從新訓練.須要注意的是這個權重共享並非層之間的權重共享,這是對於每一層的單獨共享網絡

>>阅读原文<<