統計學習方法——（第六章）二項與多項邏輯迴歸與最大熵模型詳解與推導（上）

一、知識梳理 二、最大熵模型 1、原理 最大熵原理是統計學中的一個概念，《數學之美》中對最大熵模型的概念舉的是關於投資的例子，就是平常我們說的不要把雞蛋放在一個籃子裏，均分一下熵才比較大嘛。簡單一點說就是，保留全部的不確定性，將風險降到最小。複雜一點，對於一個隨機事件的概率分佈進行預測時，預測應當滿足全部已知的條件，而對未知情況不要做任何主觀假設，在這種情況下，概率分佈最均勻，預測的風險最小。 2

>>阅读原文<<