人工智能裏的數學修煉 | 交叉熵損失函數：從信息說起

交叉熵損失函數被廣泛的運用於各種神經網絡的訓練目標函數，今天我們來深度刨析一番這一函數的優勢何在，它又是從何而來？ 一.最初的方差損失函數 二.獨熱編碼與SoftMax函數 三.信息量與熵 四.相對熵 五.交叉熵與交叉熵損失函數 一、最初的方差代價函數 在一步步介紹到交叉熵損失函數之前，先讓我們來看一下最初的方差損失函數，爲什麼我們需要更優的交叉熵損失函數？先了解方差損失函數有助於我們更好的把握交

>>阅读原文<<