批量梯度下降和隨機梯度下降

轉自：http://www.cnblogs.com/walccott/p/4957098.html 梯度下降與隨機梯度下降 梯度下降法先隨機給出參數的一組值，然後更新參數，使每次更新後的結構都能夠讓損失函數變小，最終達到最小即可。在梯度下降法中，目標函數其實可以看做是參數的函數，因爲給出了樣本輸入和輸出值後，目標函數就只剩下參數部分了，這時可以把參數看做是自變量，則目標函數變成參數的函數了。梯度下

>>阅读原文<<