1506.01186-Cyclical Learning Rates for Training Neural Networks

1506.01186-Cyclical Learning Rates for Training Neural Networks 1506.01186-Cyclical Learning Rates for Training Neural Networks 論文中提出了一種循環調整學習率來訓練模型的方式。 如下圖： 通過循環的線性調整學習率，論文作者觀察到的一種比較典型的曲線如下圖： 圖中，使用循環

>>阅读原文<<