網絡壓縮-一、低秩分解

網絡壓縮(network compression) 一、低秩近似 （低秩分解 Low Rank Expansion）web 上圖展現了低秩分解的基本思想: 將原來大的權重矩陣分解成多個小的矩陣， 右邊的小矩陣的計算量都比原來大矩陣的計算量要小， 這是低秩分解的基本出發點。網絡 奇異值分解SVD、CP分解、Tucker分解、Tensor Train分解和Block Term分解 用低秩矩陣近似原有權

>>阅读原文<<