交叉熵與KL散度

參考文獻 1.對數損失函數(Logarithmic Loss Function)的原理和 Python 實現 2.交叉熵與KL散度 3.深度學習剖根問底：交叉熵和KL散度的區別 4.詳解機器學習中的熵、條件熵、相對熵和交叉熵 5.爲什麼交叉熵（cross-entropy）可以用於計算代價？ 6.機器學習中的基本問題——log損失與交叉熵的等價性 核心：KL散度=交叉熵-熵 對於給定訓練集，熵是已知

>>阅读原文<<