關於交叉熵的個人理解

在信息論和機器學習中，常常會聊到交叉熵這個概念，用這個專有名詞來計算預測結果與實際結果的差距，簡單地說就是判斷學習的好與壞。 那爲了方便大家更加比較抽象地理解什麼是交叉熵，我們先來聊一下什麼是熵。 一：熵         熵，簡而言之就是信息量。        舉個栗子：        羅大黑同志，每天早上的早飯都是螺螄粉，一年下來天天如此。然後，今天，我又看見羅大黑同志早餐去吃螺螄粉，所以我見怪

>>阅读原文<<