交叉熵（Cross-Entropy）

文章轉自：http://blog.csdn.net/rtygbwwwerr/article/details/50778098 交叉熵（Cross-Entropy） 交叉熵是一個在ML領域經常會被提到的名詞。在這篇文章裏將對這個概念進行詳細的分析。 1.什麼是信息量？ 假設X是一個離散型隨機變量，其取值集合爲 X ，概率分佈函數爲 p(x)=Pr(X=x),x∈X ，我們定義事件 X=x0 的信息量

>>阅读原文<<