機器學習算法之--最大熵模型總結

文章目錄 一、最大熵原理 二、最大熵模型定義 三、最大熵模型學習 四、最大熵模型的優缺點 五、最大熵模型與邏輯斯諦迴歸區別 一、最大熵原理 最大熵模型可由最大熵原理推出，最大熵原理是概率模型學習的一個準則。最大熵原理認爲在滿足已有事實的所有可能的概率模型中，熵最大的模型是最好的模型。 |X|是X的取值個數，上式表明當且僅當X的分佈是均勻分佈時右邊的等號成立，當X服從均勻分佈時，熵最大。 二、最大熵

>>阅读原文<<