深度學習---之Batch normalization

Batch normalization 一.知識儲備 1.1機器學習希望樣本空間獨立同分布：  就是樣本的各個維度特徵之間分佈相同，且相互獨立。 如果數據不服從獨立同分佈會造成什麼？ 首先講 獨立：各個特徵相關性比較多，容易造成冗餘，比如一個特徵描述耳朵，另一個特徵也是描述耳朵的，就相當於特徵重複了，而我們希望只取其中一個特徵就好，所以就造成了冗餘，冗餘比較嚴重的時候就會造成過擬合。 其次講 同分

>>阅读原文<<