信息熵公式的由來

作者:憶臻 鏈接:https://www.zhihu.com/question/22178202/answer/161732605 來源:知乎 著作權歸作者所有。商業轉載請聯繫作者獲得授權,非商業轉載請註明出處。   首先我們要區分信息量和信息熵的區別。 下面根據我的理解一步一步引出信息熵及其公式的來源: 信息熵的公式 先拋出信息熵公式如下: 其中 代表隨機事件X爲 的概率,下面來逐步介紹信息熵的
相關文章
相關標籤/搜索