Expectation-Maximum（EM算法）

EM算法原理： 首先它是解決含隱變量（latent variable）情況下的參數估計問題，而求模型的參數時一般採用最大似然估計，由於含有了隱含變量，所以對似然函數參數求導是求不出來的，雖然通過梯度下降等優化方法也可以求解，但如果隱變量個數太多，將會帶來指數級的運算。不過我們能知道在隱變量能觀察到的情況下，最大似然法很簡單，或者在知道參數的情況下，計算它的期望值也很容易。那麼自然而然可以想到： 1

>>阅读原文<<