天橋調參師祕籍：一份深度學習超參微調技術指南

隨着深度學習的興起，越來越多的人從事算法工程師這一崗位。有時候他們自嘲自己爲「天橋調參師」。當然，算法工程師的工作內容並沒有那麼簡單，因爲設置超參數的過程需要專業知識和廣泛的試驗和試錯過程。尤其是針對學習率（learning rate）、批量大小（batch size）、動量（ momentum）和權重衰減（weight decay）這些超參數而言，沒有簡單易行的方法來設置。 深度學習模型充滿了超

>>阅读原文<<