模型訓練與測試 -----BN層()

Feature normalization Feature scaliing 首先是爲何要歸一化或者標準化,從下面能夠看出來若是咱們的輸入的樣本或者特徵值,他們之間的差別比較大,那麼其實咱們的梯度降低圖是畸形的。好比下面由於x1比x2小太多,因此梯度沒有x2 那麼浮誇。可是若是他們是同樣的話,那麼他們就有右邊這樣的東西了。因此爲了好的梯度降低,咱們須要針對不一樣的參數用不一樣的learning r
相關文章
相關標籤/搜索