深度學習筆記(2):1.9 標準化輸入 | 1.10 梯度消失與爆炸

1.9   標準化輸入 在數據輸入之前,我們先對數據作一個標準化處理,如下圖所示: 什麼是標準化處理呢?對於多維變量,我們希望通過標準化處理能得到變量的每一個特徵都滿足均值爲0,方差爲1。 假設我們有這樣一個例子,每個樣本有兩個特徵(是二維的),方便可視化,如上圖最左側所示,x1的取值跨度明顯大於x2的取值跨度(x1方差大於x2方差),首先我們對數據進行中心化處理,即樣本的每個特徵減去其對應均值。
相關文章
相關標籤/搜索