深度學習交叉熵詳解

文章目錄 一、信息論 1. 信息論 2. 熵 3. 相對熵（KL 散度） 4. 交叉熵 二、機器學習中交叉熵的應用 1. 爲什麼要用交叉熵做loss函數？ 2. 交叉熵在單分類問題中的使用 3. 交叉熵在多分類問題中的使用 一、信息論 交叉熵是信息論中的一個概念，要想了解交叉熵的本質，需要先從最基本的概念講起。 1. 信息論 首先是信息量。假設我們聽到了兩件事，分別如下： 事件A：巴西隊進入了20

>>阅读原文<<