吳恩達深度學習2-Week1課後作業3-梯度檢測

一、deeplearning-assignment 神經網絡的反向傳播很複雜,在某些時候需要對反向傳播算法進行驗證,以證明確實有效,這時我們引入了「梯度檢測」。 反向傳播需要計算梯度 , 其中θ表示模型的參數。J是使用前向傳播和損失函數計算的。因爲前向傳播實現相對簡單, 所以確信J的計算正確。現在讓我們回頭來看一下導數(或者梯度)的定義: 考慮一維線性函數 J(θ)=θx,該模型只包含一個實值參數
相關文章
相關標籤/搜索