神經網絡中固定每層權重方差的作用

控制輸入​​，防止數值的劇烈變化 方差的相關性質 兩個隨機變量相乘後的方差 經過變化得到 在這個等式中，x輸入可以近似的看成是一個不變的常數，而D(y)又完全由權重初始化穩定控制爲一個常數，所以輸出的方差就完全決定於權重的平均數，優化過程中平均數一般變化比較穩定，所以輸出值方差穩定。 如果不控制權重的方差，在網絡的不斷傳播中，一方面可能導致方差不斷增大，輸出值不斷增大，導致產生內存無法存儲大叔使得

>>阅读原文<<