神經網絡優化-----學習率(指數衰減學習率)

神經網絡優化中,使用指數衰減學習率,可以在迭代初期得到較高的下降速度,可以在較小的訓練輪數下獲得更好的收斂度 在 python 中可以用這行代碼實現: learning_rate = tf.train.exponential_decay(LEARNING_RATE_BASE,global_step,LEARNING_RATE_STEP,LEARNING_RATE_DECAY,staircase=T
相關文章
相關標籤/搜索