神經網絡的參數初始化

注: 本文是學習吳恩達老師機器學習公開課的學習筆記。 1. 對於神經網絡fminunc函數,我們需要初始化神經網絡的initialTheta的參數。對於邏輯迴歸來說,我們可以全部初始化爲0,但是對於神經網絡來說將initialTheta全部初始化爲0是不可以的。 2.爲什麼全部初始化成0是不可以的呢? 如果所有參數初始化成0,那麼隱藏層的每個節點的輸出都是相同的,而且每個參數對成本函數的偏導數也是
相關文章
相關標籤/搜索