吳恩達《深度學習-改善深層神經網絡》3--超參數調試、正則化以及優化

1. 系統組織超參調試Tuning process 1)深度神經網絡的超參有學習速率、層數、隱藏層單元數、mini-batch大小、學習速率衰減、 β(優化算法)等。 其重要性各不相同,按重要性分類的話:    第一類:最重要的參數就是學習速率α     第二類:隱藏層單元數、mini-batch大小、β(優化算法)     第三類:層數、學習速率衰減 2)如何選擇調試的參數組合呢? 當超參較少時
相關文章
相關標籤/搜索