理解梯度下降法

導言 最優化問題在機器學習中有非常重要的地位，很多機器學習算法最後都歸結爲求解最優化問題。在各種最優化算法中，梯度下降法是最簡單、最常見的一種，在深度學習的訓練中被廣爲使用。在本文中，SIGAI將爲大家系統的講述梯度下降法的原理和實現細節問題。  最優化問題 最優化問題是求解函數極值的問題，包括極大值和極小值。相信所有的讀者對這個問題都不陌生，在初中時我們就學會了求解二次函數的極值（拋物線的頂點）

>>阅读原文<<