【Tensorflow】設置自動衰減的學習率

在訓練神經網絡的過程當中,合理的設置學習率是一個很是重要的事情。對於訓練一開始的時候,設置一個大的學習率,能夠快速進行迭代,在訓練後期,設置小的學習率有利於模型收斂和穩定性。python tf.train.exponential_decay(learing_rate, global_step, decay_steps, decay_rate, staircase=False)web learnin
相關文章
相關標籤/搜索