吳恩達《深度學習》第二門課（3）超參數調試、Batch正則化和程序框架

3.1調試處理 （1）不同超參數調試的優先級是不一樣的，如下圖中的一些超參數，首先最重要的應該是學習率α（紅色圈出），然後是Momentum算法的β、隱藏層單元數、mini-batch size（黃色圈出）、再之後是Layer、learning rate decay（紫色圈出）、最後是Adam算法中的β1、β2、ε。 （2）用隨機取值代替網格點取值。下圖左邊是網格點取值，如果二維參數中，一個參數調

>>阅读原文<<