吳恩達深度學習第二課第一週做業及學習心得體會——初始化權重、L2正則化、dropout

概述 學習課程後，再第一週第四課做業的基礎上完成該周做業，現將心得體會記錄以下。python 初始化權重 代碼更改 在以前的創建神經網絡的過程當中，提到權重w不能爲0，而將它初始化爲一個隨機的值。然而在一個深層神經網絡中，當w的值被初始化過大時，進入深層時呈指數型增加，形成梯度爆炸；太小時又會呈指數級衰減，形成梯度消失。網絡 Python中將w進行隨機初始化時，使用numpy庫中的np.rando

>>阅读原文<<