最大熵模型(Maximum Entropy Models)(二)

上面《MaxEnt: 最大熵模型(Maximum Entropy Models)(一)》 其實就是講了下熵，下面我們繼續最大熵模型(Maximum Entropy Models)。 最大熵原理指出，當我們需要對一個隨機事件的概率分佈進行預測時，我們的預測應當滿足全部已知的條件，而對未知的情況不要做任何主觀假設。在這種情 況下，概率分佈最均勻，預測的風險最小。因爲這時概率分佈的信息熵最大，所以人們稱

>>阅读原文<<