deelearning.ai學習筆記——參數調試、Batch正則化和程序框架

超參數設定(調試處理) 需要處理的參數: 學習率α,動量梯度下降的參數β,選擇的層數,mini-batch的大小等。其中最重要的是學習率α 如何選擇調試值 (1)網格中取樣點:選擇參數效果好的點 (2)隨機選擇點(深度學習) 在進行超參數取值時,採用由粗到細的策略。具體解釋爲在進行取值試驗時,發現某個效果最好的點,然後在這個點周圍取一些點,放大這一區域,進行更加密集的取點。 選擇合適的學習率 (1
相關文章
相關標籤/搜索