深度學習模型壓縮加速

1、剪枝 （1）Deep Compression這篇文章（Stanford的Song Han） 如圖 1所示，剪枝需要三個步驟，首先是訓練一個普通的神經網絡；然後我們選擇一個閾值，將權重小於閾值的連接剪開，這樣就得到一個稀疏連接的網絡了(圖 2)；剪枝後網絡性能肯定會下降一些，所以最後我們對這個稀疏網絡進行再訓練，將性能提上去。對AlexNet，剪枝可以減少9倍的參數，對VGG-16網絡，剪枝能減

>>阅读原文<<