EM算法的推導

0. Jensen不等式 這裏不做證明，只列舉下文要用到的結論 對在上爲凸函數，即時， 有，當且僅當X爲常量時去等號（即a=b） 1. EM推導 設樣本集,則似然函數的對數形式爲： 當含有隱變量z，則難以用MLE對計算。 加入隱變量後， 此時加入Q函數，作爲z的某個分佈, 因此我們通過不斷調整參數與變量z，使J不斷逼近 E步: 固定，調整Q，使（可以證明）。 有0節的取等條件可以得到，此時， 對等

>>阅读原文<<