TensorFlow 模型剪枝方法

原文鏈接:TensorFlow 模型剪枝方法 背景知識 模型剪枝(Model Pruning)是一種模型壓縮方法,對深度神經網絡的稠密連接引入稀疏性,通過將「不重要」的權值直接置零來減少非零權值數量,其歷史可追溯到上世紀 90 年代初。 在 Optimal Brain Damage【2】中,使用對角 Hessian 逼近計算每個權值的重要性,重要性低的權值被置零,然後重新訓練網絡。 在 Optim
相關文章
相關標籤/搜索