1.11 神經網絡的權重初始化-深度學習第二課《改善深層神經網絡》-Stanford吳恩達教授

神經網絡的權重初始化 (Weight Initialization for Deep Networks) 上節課，我們學習了深度神經網絡如何產生梯度消失和梯度爆炸問題，最終針對該問題，我們想出了一個不完整的解決方案，雖然不能徹底解決問題，卻很有用，有助於我們爲神經網絡更謹慎地選擇隨機初始化參數，爲了更好地理解它，我們先舉一個神經單元初始化地例子，然後再演變到整個深度網絡。 我們來看看只有一個神經元

>>阅读原文<<