機器學習非監督分類之因子分析

        隨機變量X是混合高斯分佈時，我們採用EM算法可以解決，此時樣本的數量是遠大於特徵數量的，當樣本數量小於特徵數量時，我們該如何建立模型呢？因子分析進入人們的視野。 假設數據是高斯分佈，我們估計期望和方差： 由於樣本數量小於特徵數量，我們可以發現|∑| = 0，Σ是奇異矩陣，那麼 Σ-1 就不存在。但我們仍想使用高斯分佈，那就需要對∑進行限制。 一、∑的限制 ∑沒限制之前，對角線上的元

>>阅读原文<<