關於熵的知識——信息論基本概念

信息論 1 信息量 首先是信息量。假設我們聽到了兩件事，分別如下：  事件A：巴西隊進入了2018世界盃決賽圈。  事件B：中國隊進入了2018世界盃決賽圈。  僅憑直覺來說，顯而易見事件B的信息量比事件A的信息量要大。究其原因，是因爲事件A發生的概率很大，事件B發生的概率很小。所以當越不可能的事件發生了，我們獲取到的信息量就越大。越可能發生的事件發生了，我們獲取到的信息量就越小。那麼信息量應該和

>>阅读原文<<