最大熵模型的特徵函數及約束條件

作者：星環科技 鏈接：https://zhuanlan.zhihu.com/p/29978153 來源：知乎 熵 熵(entropy)是熱力學中的概念,由香濃引入到信息論中。在信息論和概率統計中,熵用來表示隨機變量不確定性的度量。 H(x)依賴於X的分佈,而與X的具體值無關。H(X)越大,表示X的 不確定性越大。 條件熵 3.最大熵模型的定義 最大熵原理是統計學習的一般原理,將它應用到分類就得到了

>>阅读原文<<