【轉發】經典損失函數：交叉熵（附tensorflow）

每次都是看了就忘，看了就忘，從今天開始，細節開始，推一遍交叉熵。 我的第一篇CSDN，獻給你們（有錯歡迎指出啊）。 一.什麼是交叉熵 交叉熵是一個信息論中的概念，它原來是用來估算平均編碼長度的。給定兩個概率分佈p和q，通過q來表示p的交叉熵爲：      注意，交叉熵刻畫的是兩個概率分佈之間的距離，或可以說它刻畫的是通過概率分佈q來表達概率分佈p的困難程度，p代表正確答案，q代表的是預測值，交叉熵

>>阅读原文<<