深度學習:網絡優化之超參數

超參數優化(Hyperparameter Optimization) 常見的類型 (1) 網絡結構,包括神經元之間的連接關係、層數、每層的神經元數量、激活函數的類型等。 (2) 優化參數,包括優化方法、學習率、小批量的樣本數量等。 (3) 正則化係數 主要存在的困難. (1)超參數優化是一個組合優化問題, 無法像一般參數那樣通過梯度下降方法來優化。 (2)評估一組超參數配置 的時間代價非常高。 對
相關文章
相關標籤/搜索