模型壓縮加速入門

1.知識蒸餾 小模型的損失中就會加上KL損失 緊緻的網絡設計 squeeze 先11降維 Xception結構 可以用更少的block的實現一樣的效果,每個block的參數量可能變多了,所以需要對通道數做了升維 大量參數都集中在11的卷積上 shufflenet 如何把11卷積的參數和計算量省去 低秩分解 剪枝 模型量化 二值神經網絡
相關文章
相關標籤/搜索