數學之美學習筆記

16年一月份閱讀了吳軍的《數學之美》，真有種相見恨晚的感受！對於剛剛學習天然語言處理的人來講，這是最佳入門讀物，沒有之一。下面是我在學習中作的一些知識點的閱讀筆記，有些內容、公式摘自Tomas M.Cover的《信息論基礎》，詳情請參考原著，本文僅做我的閱讀筆記學習使用。html 1.熵、聯合熵、條件熵、互信息、相對熵 信息的做用是排除不肯定性，信息量就得關於不肯定性的多少。 對於任意一個隨機變量

>>阅读原文<<