改善深層神經網絡week1學習筆記

1.Initialization Zero initialization 即初始化爲0。如果將w權重矩陣和b偏置矩陣都使用Zero initialization則會產生以下的結果： 算法對每個測試樣裏都會輸出0，因此準確率在0.5左右，與隨機猜測無異。總體來說，因爲沒有「打破對稱性」，每個神經元都做着一樣的事情，所以說會產生如上結果。一般地，將b零初始化，w隨機初始化。 Random initia

>>阅读原文<<