每天一篇論文 337/365 How Does Batch Normalization Help Optimization?

How Does Batch Normalization Help Optimization?(NIPSNeurIPS 2018) 摘要 批處理規範化（BatchNorm）是一種廣泛採用的技術，它使深層神經網絡（DNNs）的快速穩定訓練。儘管BatchNorm的廣泛應用，但其有效性的確切原因仍不清楚。人們普遍認爲，這種有效性來源於控制訓練過程中各層輸入分佈的變化，以減少所謂的「內部協變量轉移」。在

>>阅读原文<<