深度學習---超參數調試

超參數搜索的策略      在深度學習中,超參數有很多,比如學習率α、使用momentum或Adam優化算法的參數(β1,β2,ε)、層數layers、不同層隱藏 單元數hidden units、學習率衰退、mini=batch的大小等。其中一些超參數比其他參數重要,其優先級可以分爲以下幾級,如圖,紅色 框最優先,橙色次之,紫色再次之,最後沒有框住的一般直接取經驗值。               
相關文章
相關標籤/搜索