機器學習（十二）——最大熵模型

最大熵模型是基於最大熵原理的，在已知條件下，未知領域的數據均以最大化熵值分佈；最大熵模型的意義在於對構建的模型f(x)進行最優化調整； 因此，最大熵模型的學習相當於求解最大熵模型，如上。該問題其實就是解決在約束條件下的最優化問題求解。解決max H(P)問題時，首先我們想到的是梯度下降算法求解max值，但是該問題是帶約束的問題，無法使用梯度下降算法求解，因此，我們可以引入拉格朗日乘子w0,w1,w

>>阅读原文<<