深度學習方法（二十一）：常用權重初始化方法Xavier，He initialization的推導

文章目錄 交叉熵目標函數更陡峭 Xavier initialization [1][4] He initialization [2][3] He init 考慮ReLU函數 He init 考慮Leaky ReLU函數 結束語 參考資料 交叉熵目標函數更陡峭 在論文[1]中給了一個圖示，一定程度上說明了爲什麼Cross Entropy用的很多，效果很好。圖中上面的曲面表示的是交叉熵代價函數，下面的

>>阅读原文<<