統計學習方法-第六章

統計學習第六章-最大熵模型 最大熵的選擇問題 熵、聯合熵、條件熵、互信息的關係 最大熵模型 特徵函數的細緻探討 特徵函數的估計$E_{P}(f)$ 最大熵模型 改進尺度迭代法IIS 最大熵的選擇問題 熵、聯合熵、條件熵、互信息的關係 熵之間的關係問題，不涉及到交叉熵等。爲什麼選擇最大熵，物理學中，系統往往向着熵增加的方向發展，所以系統的熵越大，則系統的穩定性越高，當然系統的未知性也越高，例如簡單的

>>阅读原文<<