Conditional mutual information 條件互信息

主要參考wiki， 另外參考下面博客的聯合熵部分的感性理解，對聯合熵的描述非常形象生動。 http://blog.csdn.net/pipisorry/article/details/51695283 首先理解信息（I）的定義 I 是衡量信息w的量，只和w發生的概率P(w)有關，認爲 I(w)=f(P(w)) 。 並且滿足公式 I(A,B)=I(A)+I(B)P(A,B)=P(A)∗P(B) 若A

>>阅读原文<<