全面理解softmax與交叉熵

交叉熵的作用 想了解softmax函數的原理以及交叉熵的配合使用，看我的這一篇博文基本足夠了，其他人要麼寫的不夠清晰，甚至有錯誤，要麼不夠全面，你可以查看我的引用鏈接獲取更加詳細的推導流程，用圖表示，很良心的寫法。 交叉熵最早起源於信息論，1948 年，香農提出了「信息熵」(shāng) 的概念，才解決了對信息的量化度量問題。 一條信息的信息量大小和它的不確定性有直接的關係。比如說，我們要搞清楚一

>>阅读原文<<