平方誤差損失與交叉熵損失

平方誤差和交叉熵是神經網絡中很常用的損失函數,那麼平方誤差和交叉熵分別適合什麼場景呢?這個問題也是算法工程師面試中的高頻考點,其中不乏騰訊微信。那麼在本文中,就來詳細解釋這兩種損失函數。 平方誤差 這裏以一個簡單的神經元爲例,只有一個輸入和一個輸出: 接下來我們使用平方誤差損失來訓練這個神經元,接受輸入1.0,目標輸出0.0。首先將權重初始化爲0.6,偏置0.9,學習率爲0.15,我們來看看損失曲
相關文章
相關標籤/搜索