最大熵模型學習優化案例

最大熵模型 最大熵模型的學習等價於約束最優化問題： 案例： 已知有A,B,C,D,E五種可能出現的情況，已知A,B出現的概率之和是3/10，所有五個出現概率之和爲1，使用最大熵模型進行優化獲得這五種情況的概率分佈。 該問題主要通過使用拉格朗日的對偶性，然後通過求解對偶最優化問題得到解。 所以我們有： 第一步，求解原始問題： 第二步，利用拉格朗日乘子法： 第三步：對偶問題求解： 最終結果爲： 這裏我

>>阅读原文<<