LDA中Gibbs採樣算法和並行化

最近在用topic model跑一些數據，算法採用了LDA和PLSA進行對比，由於數據量稍大，採用了LDA的並行化版本，對其並行化方法很感興趣，查看了相關資料後先總結如下，有時間可以繼續琢磨。Gibbs Sampling用來逼近LDA中的隱式變量，是一種較爲簡單的實現方式。 Gibbs 方法 傳統的實現方法是串行的，主要流程如下： 步驟4中，每一個word都需要對全局進行更新，很容易造成網絡擁堵，

>>阅读原文<<