統計學習方法 6-邏輯斯諦迴歸與最大熵模型

邏輯斯諦迴歸模型 邏輯斯諦分佈 二元邏輯斯諦迴歸模型 模型參數估計 多元邏輯斯諦迴歸 最大熵模型 最大熵原理 最大熵原理認爲，學習概率模型時，在所有可能的概率模型（分佈）中，熵最大的模型是最好的模型。通常用約束條件來確定概率模型的集合，所以，最大熵原理也可以表述爲在滿足約束條件的模型集合中選取熵最大的模型。 H(P)=−∑xP(x)logP(x) 0≤H(P)≤log|X| ,當 X 服從均勻分佈

>>阅读原文<<