深度學習模型壓縮加速

一、剪枝 （1）Deep Compression這篇文章（Stanford的Song Han） 如圖 1所示，剪枝須要三個步驟，首先是訓練一個普通的神經網絡；而後咱們選擇一個閾值，將權重小於閾值的鏈接剪開，這樣就獲得一個稀疏鏈接的網絡了(圖 2)；剪枝後網絡性能確定會降低一些，因此最後咱們對這個稀疏網絡進行再訓練，將性能提上去。對AlexNet，剪枝能夠減小9倍的參數，對VGG-16網絡，剪枝能減

>>阅读原文<<