關於信息熵相關的定義的理解

關於信息熵相關的定義的理解 1、信息量 信息量是通過概率來定義的： 如果一件事情的概率很低，那麼它的信息量就很大； 反之，如果一件事情的概率很高，它的信息量就很低。 這件事情放在生活中，也是相當容易理解的。例如：「王思聰是富豪」這件事情的概率很高，但是說清楚這件事情只用一句話：「王思聰是王健林的兒子」，信息量少。那麼我「李某人是富豪」這件事發生的概率就很低，要說清楚這件事情，估計得說上三天三夜了，

>>阅读原文<<