Batch Normalization

在傳統的機器學習模型中,數據的歸一化有助於模型的訓練、收斂,同樣,歸一化這種方式也有利於深度模型的訓練,但是鑑於深度網絡的層次結構,輸入數據的歸一化效果很有可能在第一層網絡之後就失去了。在這種情況下,針對每一層數據做歸一化就尤爲重要,但是做法又與傳統方式略有不同,具體思想就體現在Batch Normalization這個操作中。 文章結構 歸一化 歸一化的作用 歸一化的方法 Min-Max Sca
相關文章
相關標籤/搜索