【吳恩達深度學習】【神經網絡和深度學習】 第三章 第九節 神經網絡的梯度下降法

一、梯度下降法 有關什麼是梯度下降法，這在之前幾周的學習中我們已經掌握了，這裏簡要分析。 對於一個函數，我們在某一個點的next操作可以認爲是跟這個點的導數有關的，因爲導數會指引我們走向極值。然後我們每次根據這個點的導數向前走一步的過程中，我們用一個被稱作學習率的東西來確定我們的步長。 這種方法我們稱之爲梯度下降法。、   二、淺層神經網絡的梯度下降法 淺層神經網絡中的梯度下降法和之前提到的那種沒

>>阅读原文<<