14、權重初始化,爲什麼不能全部初始化爲0

當我們在訓練一個神經網絡的時候,參數的隨機初始化是非常重要的,對於邏輯迴歸來說,把參數初始化爲0是很ok的。但是對於一個神經網絡,如果我們將權重或者是所有參數初始化爲0,梯度下降算法將不會起到任何作用。 1. 爲什麼邏輯迴歸參數初始化爲0是ok的? 2. 爲什麼神經網絡的權重或所有參數初始化爲0,梯度下降不再work? 總結一下:在神經網絡中,如果將權值初始化爲 0 ,或者其他統一的常量,會導致後
相關文章
相關標籤/搜索