互信息

做者：maple 連接：https://www.zhihu.com/question/24059517/answer/37430101 來源：知乎 互信息指的是兩個隨機變量之間的關聯程度，即給定一個隨機變量後，另外一個隨機變量不肯定性的削弱程度，於是互信息取值最小爲0，意味着給定一個隨機變量對肯定另外一個隨機變量沒有影響，最大取值爲隨機變量的熵，意味着給定一個隨機變量，能徹底消除另外一個隨機變量的

>>阅读原文<<