Andrew Ng's deeplearning Course2Week3 Hyperparameter tuning, Batch Normalization and Frameworks

一、超參數調試 1.超參數的選擇次序 超參數的重要程度：1.α 2.β、hidden units、mini-batch size 3.layers、learning rate decay 4.β1、β2、ε（通常設爲0.9,0.999,10^-8） 2.超參數的選取（隨機取值，精確搜索） 假設我們的超參數1爲學習率α，超參數2爲ε，明顯α的重要程度要大於ε，如果像上圖左邊的那樣均勻選取，那可能只有

>>阅读原文<<