剪枝PRUNING TUTORIAL

最新的深度學習技術依賴於難以部署的過度參數化模型。相反，已知生物神經網絡使用有效的稀疏連通性。爲了減少內存，電池和硬件消耗，同時又不犧牲精度，在設備上部署輕量級模型並通過私有設備上計算來確保私密性，確定通過減少模型中的參數數量來壓縮模型的最佳技術很重要。在研究方面，剪枝用於研究參數過度配置和參數不足網絡之間學習動態的差異，以研究幸運稀疏子網絡和初始化（「lottery tickets」）作爲破壞性

>>阅读原文<<