深度神經網絡優化（三）- Hyperparameter tuning, Batch Normalization

第三篇呢，是深度神經網絡優化的最後一堂課的筆記，主要介紹的是關於超參數調節，batch normalization以及多分類 Hpyerparameter tuning Tuning process 對於深度神經網絡來說，我們有很多超參數需要調節 1. learning_rate: α α 2. momentum裏的 β β 3. Adam裏的 β1,β2,ϵ β 1 , β 2 , ϵ 4. l

>>阅读原文<<