Text mining and analytics學習筆記——第二週

導讀： 1）什麼是熵？對於什麼樣的隨機變量，熵函數分別達到最小值和最大值？ 2）什麼是條件熵？ 3)條件熵H（X | Y）和熵H（X）之間的關係是什麼？哪個更大？ 4)如何用條件熵來發現組合關係？ 5)什麼是互信息我（X; Y）？它與熵H（X）和條件熵H（X | Y）有什麼關係？ 6)I（X; Y）的最小值是多少？它是對稱的嗎？ 7)對於什麼樣的X和Y，互信息I（X; Y）是否達到最小值？對於一個

>>阅读原文<<