ml

1、信息論基礎 熵:信息熵是衡量隨機變量分佈的混亂程度,是隨機分佈各事件發生的信息量的期望值,隨機變量的取值個數越多,狀態數也就越多,信息熵就越大,混亂程度就越大。當隨機分佈爲均勻分佈時,熵最大;信息熵推廣到多維領域,則可得到聯合信息熵;條件熵表示的是在 X 給定條件下,Y 的條件概率分佈的熵對 X的期望。 聯合熵: 條件熵:條件熵 H(Y|X) 表示在已知隨機變量 X 的條件下隨機變量 Y 的不
相關文章
相關標籤/搜索