深度學習模型訓練技巧

訓練深度神經網絡的時候須要注意的一些小技巧     1、準備數據:務必保證有大量、高質量而且帶有乾淨標籤的數據,沒有如此的數據,學習是不可能的微信 2、預處理:這個很少說,就是0均值和1方差化網絡 3、minibatch:建議值128,1最好,可是效率不高,可是千萬不要用過大的數值,不然很容易過擬合性能 4、梯度歸一化:其實就是計算出來梯度以後,要除以minibatch的數量。這個很少解釋學習 5
相關文章
相關標籤/搜索