CS229課程筆記12：EM算法及混合高斯的應用

Ng此部分先介紹了EM算法的步驟，然後證明了其一致遞增性（收斂性），最後給出了應用於混合高斯的例子。 機器學習的一種任務是求取某個顯示變量 x 的概率分佈 P(x;θ) ，但是鑑於 P(x) 不屬於常見的易於表示的（例如指數型的變形）概率分佈，無法通過簡易的最大log-likelihood的方式求取。一種方式就是假設存在某種隱變量 z ， P(x,z;θ) 可以表示爲簡易概率分佈的組合，例如 P(

>>阅读原文<<