利用學習率衰減找到最優結果（基於Iris數據集）

學習率是深度學習中的一個重要的超參，如何調整學習率是訓練出好模型的關鍵要素之一。 關於學習率的大小 在訓練過程中，一般根據訓練輪數設置動態變化的學習率。 剛開始訓練時：學習率以 0.01 ~ 0.001 爲宜。 一定輪數過後：逐漸減緩。 接近訓練結束：學習速率的衰減應該在100倍以上。 兩種學習率衰減模式，一種爲線性衰減，一種爲指數衰減。 如果學習率過小，梯度下降很慢，如果學習率過大，如Andre

>>阅读原文<<