EM算法

（EM算法）The EM Algorithm EM是我一直想深入學習的算法之一，第一次聽說是在NLP課中的HMM那一節，爲了解決HMM的參數估計問題，使用了EM算法。在之後的MT中的詞對齊中也用到了。在Mitchell的書中也提到EM可以用於貝葉斯網絡中。 下面主要介紹EM的整個推導過程。 1. Jensen不等式 回顧優化理論中的一些概念。設f是定義域爲實數的函數，如果對於所有的實數x，，那麼f

>>阅读原文<<