人工智能教程 - 學科基礎課程2.6 - 機器學習導論 11.隨機初始化,網絡結構,訓練的總步驟

隨機初始化 Random Initialization 在邏輯迴歸中，可以初始化所有的 θ \theta θ爲0 但是在神經網絡中， a 1 ( 2 ) = a 2 ( 2 ) a_1^{(2)}=a_2^{(2)} a1(2)​=a2(2)​，權重全都一樣， δ \delta δ值一樣， 偏導也都一樣。將會導致整個網絡都很冗餘，最終的邏輯迴歸單元只會得到一個特徵。 隨機初始化 對參數進行初始化時

>>阅读原文<<