【機器學習】 特徵值分解、奇異值分解與PCA的原理

1、PCA的原理 設n維隨機變量X, 其對應的協方差矩陣是C 基於正交矩陣P，對隨機變量X做正交變換，得到變量Y，對應協方差矩陣爲R,如下所示。 C是X的協方差矩陣，R是Y的協方差矩陣，二者都是一個對稱矩陣 協方差矩陣的對角線以外的值都是n維變量各分量之間的相關性的度量值，當值爲0時表示兩個分量無關，即相互獨立，此時我們得到的變量具有很好的統計特性，便於處理，即我們的目標是找到正交矩陣P使下式成立

>>阅读原文<<