神經網絡參數初始化（MSRA、Xavier）

轉載文章：神經網路權重初始化（講的比較詳細） 再推薦一篇感覺原理講的很好的文章：https://blog.csdn.net/u014696921/article/details/53819512 網絡權重初始化相關 理想的網絡參數初始化使模型訓練事半功倍，相反，糟糕的初始化方案不僅會影響網絡收斂，甚至會導致梯度彌散或爆炸。參數初始化的理想狀態是參數正負各半，期望爲0。   1、過大或者過小的初始化

>>阅读原文<<