權重初始化方式

常見的四種初始化方式 初始化爲常數或者0 初始化 Xavier初始化 Kaiming初始化  相同點：四種更新方式的權重均值都爲0 後三種初始化的目的是，設計初始化權重的方差，使得每層的輸出值 的方差與輸入值的方差是一樣的。 ----- 輸入輸出方差一致性 初始化方式 特點 初始化爲常數或者0 同層神經元的輸入輸出完全相同且更新相同  初始化 不考慮激活函數，只利用狀態值，只考慮了正向傳播，得到 

>>阅读原文<<