吳恩達神經網絡 ——神經網絡的權重初始化,Mini-batch 梯度下降,指數加權平均數,動量梯度下降法

神經網絡的權重初始化 四個神經元可能有4個輸入特徵,從x_1到x_4,經過a=g(z)處理,最終得到y我們用x表示。 z=w_1 x_1+w_2 x_2+⋯+w_n x_n,b=0,暫時忽略b, 目的:爲了預防z值過大或過小,你可以看到n越大,你希望w_i越小,因爲z是w_i x_i的和,如果你把很多此類項相加,希望每項值更小 方法:設置w_i=1/n,n表示神經元的輸入特徵數量,實際上,你要做的
相關文章
相關標籤/搜索