神經網絡中的反向傳播

一、損失函數 預測值: 首先我們根據給定的Xi,對於一個樣本,我們可以得到一個預測 值 y ^ \widehat{y} y ​ 。 爲了衡量我們的預測值與真實值之間的差距,我們引入了一個損失函數,這裏 就僅列出交叉熵函數作爲舉例,而且爲什麼要用交叉熵,這裏最重要的原因是因爲採用交叉熵可以避免局部最小值。 交叉熵函數: L ( y , y ^ ) = − ( y l o g y ^ + ( 1 −
相關文章
相關標籤/搜索