SVD在神經網絡中的常用應用以及原理

SVD回顧             SVD常用矩陣分解:A(m*n) = U(m*n)A(n*m)V(m*n), 在PCA中可以看到，SVD做矩陣壓縮，假設壓縮至K緯，只需要保留特徵值最大的top即可，             那麼有:A(m*n) ～ U(m*k)A(k*k)V(k*n) = U(m*k)V(k*n) 應用：             總結：可以看出模型的參數大大壓縮而且效果基本上

>>阅读原文<<