深度學習總結(四)——正則項係數、Batch_size設置

1. 正則項係數（λ）的設置 建議一開始將正則項係數λ設置爲0，先確定一個比較好的learning rate。然後固定該learning rate，給λ一個值（比如1.0），然後根據validation accuracy，將λ增大或者減小10倍（增減10倍是粗調節，當你確定了λ的合適的數量級後，比如λ = 0.01,再進一步地細調節，比如調節爲0.02，0.03，0.009之類。） 2. Batc

>>阅读原文<<