神經網絡模型壓縮

神經網絡模型壓縮優化方法: 1.優化壓縮模型的三個方向: 1)設計更爲精細的網絡設計,好比:簡化卷積層和全鏈接層的形式 2)對模型進行裁剪。在結構複雜的神經網絡中,每每存在着大量的參數冗餘,所以能夠尋找一個適當的評定方法進行剪枝優化 3)**數據進行量化或者二值化。**爲了保持原有模型中的數據精度,通常常見的網絡中,都會以32bit的浮點類型保存模型權重。這種保存方式,增長了數據存儲的大小和重載模
相關文章
相關標籤/搜索