超參數調試與BN(Batch Norm)

1. 深度學習中的超參數 深度學習最難之一的問題，也是被許多人不喜的願意就是超參數，深度學習中有許多超參數，例如常見的學習率、隱藏層的數量、優化算法中的超參數等等。這些超參數往往沒有一個固定的比較好的值，在不同的領域、不同的場景、甚至是硬件條件不變，最適合的超參數也在變化，因此，想要掌握深度學習，超參數是不得不面對的一件事。 那麼超參數那麼多，到底怎樣選取合適的值呢？ 我們首先根據大多數人的經驗爲

>>阅读原文<<