【tensorflow】】模型優化（一）指數衰減學習率

指數衰減學習率是先使用較大的學習率來快速獲得一個較優的解，而後隨着迭代的繼續,逐步減少學習率，使得模型在訓練後期更加穩定。在訓練神經網絡時，須要設置學習率（learning rate）控制參數的更新速度，學習速率設置太小，會極大下降收斂速度，增長訓練時間；學習率太大，可能致使參數在最優解兩側來回振盪。 html 函數原型：python tf.train.exponential_decay(    

>>阅读原文<<