機器學習主題模型之LDA參數求解——變分推斷+EM近似

由上一篇可知LDA主要有兩個任務:對現有文集確定LDA模型參數α、η的值;或對一篇新文檔,根據模型確定隱變量的分佈p(β,z,θ|w,α,η)。由於無法直接求出這個後驗分佈,因此可以考慮使用Laplace近似、變分近似、MCMC、Gibbs採樣法等算法求解。   1、變分推斷(variational inference) 我們希望找到合適的α、η使對似然函數最大化,並求出隱變量的條件概率分佈:  
相關文章
相關標籤/搜索