數學之美：談談最大熵模型

一個色子，當對其一無所知時，咱們會假設色子每一個面出現的機率爲1/6；若是已知一個面的機率爲1/3，則咱們會假設其餘面機率爲2/15。當咱們對一個隨機事件的機率進行預測時，咱們的預測應當知足全部的已知條件，而對其餘未知狀況不要作任何主觀假設，在這種狀況下，機率分佈均勻，預測的風險最小，這時的機率分佈的信息熵最大。所以叫作最大熵模型。這就是咱們一般所說的不要把雞蛋放在一個籃子裏。樸素的理解是當咱們遇

>>阅读原文<<