DeepLearning論文閱讀筆記(一):Cyclical Learning Rates for Training Neural Networks(CLR)

論文鏈接 論文內容關鍵在於兩點: 1.CLR提出了一種在神經網絡訓練中設置global learning rates的方法,用來解決手動實驗去尋找最優學習率的問題,不需要額外的計算,且通常需要更少的迭代次數。它就是讓學習率在迭代過程中週期性變化,而不是固定的值。 2.如何去估計CLR中的超參,如週期長度(cycle length)和邊界值(boundary values)。   1.Cyclica
相關文章
相關標籤/搜索