最大熵原理

最大熵原理 　　近期在學習信息論，看到了最大熵原理。關於最大熵原理，之前有所瞭解，也知道它在信息論中的一些基本應用和推論。最近我定量地學習了最大熵原理並結合熱力學問題加深了理解。 最大熵原理的思想 　 　　最大熵原理的思想就是如果對一個系統存在未知部分，則不應作主觀假設，而保留最大的混亂程度。即對於系統已知條件爲X，那麼最大熵分佈 p=argmaxpH(p|X) 是最合理的分佈。 簡單例子 　　例

>>阅读原文<<