模型壓縮

參考:Model Compression and Efficient Deep Learning——韓鬆(伯禹學堂) 模型壓縮三個過程:剪枝,量化(參數的表示精度可以降低),哈夫曼編碼 1剪枝(pruning) 卷積層可達到3倍的壓縮,全連接層可達10倍 剪枝率達到50%的時候準確率明顯下降,更多的剪枝要加上重新訓練能夠維持準確率,而想要達到更大比例的剪枝,需要多輪的重新訓練纔可達成。 2量化 一
相關文章
相關標籤/搜索