【信息論】——第二講

幕布連接【查看更方便】：第二講 第二講：離散信源及其信息熵 自信息量 自信息量定義 見圖 自信息量計算 見圖 總結 單符號離散信源信息熵 歷史： 定義： 最大離散熵定理： 定理 證實： 二元信號的信息熵【和深度學習中的交叉 熵同樣-】 總結： 總結： 多符號離散信源信息熵 兩符號獨立同分布狀況——多符號獨立同分布 熵模型 熵模型 利用獨立性計算結果： M個獨立同分布 聯合熵 定義： 利用條件機率公

>>阅读原文<<