Tensorflow中tf.train.exponential_decay函數(指數衰減法)

  在Tensorflow中,爲解決設定學習率(learning rate)問題,提供了指數衰減法來解決。 通過tf.train.exponential_decay函數實現指數衰減學習率。 步驟:1.首先使用較大學習率(目的:爲快速得到一個比較優的解);              2.然後通過迭代逐步減小學習率(目的:爲使模型在訓練後期更加穩定); 代碼實現: decayed_learning_r
相關文章
相關標籤/搜索