深度學習第二課 改善深層神經網絡：超參數調試、正則化以及優化 第三週超參數調試+Batch normalization筆記和做業

超參數調試處理策略 超參數搜索的策略 1. 隨機取值。 　　網格搜索的問題在於：沒法預先判斷哪一個參數是比較重要的，所以將浪費大量的運算在沒有明細做用的變量上。 2. 精確搜索 web 爲超參數選取合適的範圍 　　對於如神經網絡隱藏層數這類超參數能夠採用平均取值，可是對於相似學習率和指數加權平均中的超參數 β 這類超參數須要採用對數平均取值。 　　如對學習率取值時，學習率的變化範圍爲[0.001,

>>阅读原文<<