吳恩達deeplearning.ai《改善深層神經網絡:超參數調試、正則化以及優化》-超參數調試,Batch正則化和程序框架(三)

調試處理 根據調參的重要程度排序,首要重要的是紅色,即學習率α,其次重要爲黃色,再次之爲紫色。 當我們嘗試參數的時候,儘量採用一定範圍內隨機取值。而不是劃定網格,有規律的取值。因爲面對很多維度參數時,很難說我們能直觀衡量出哪一個參數對於整個學習更加重要。如果你隨機取值,也就能探索更多超參數的潛在值。 當我們尋找在一個區域的參數表現很好的時候,我們可以劃定一個範圍,更加精細的隨機嘗試取值。即大範圍粗
相關文章
相關標籤/搜索