簡述梯度下降法

簡述梯度下降法   在機器學習中，梯度下降法是一種常用的優化方法，是解決無約束優化問題最簡單、最經典的方法之一。要了解梯度下降法是什麼，首先就要了解什麼是梯度。 1、梯度   在微積分裏面，對多元函數的參數求∂偏導數，把求得的各個參數的偏導數以向量的形式寫出來，就是梯度。設有多元函數： ​​​​   按照上述定義，則該多元函數的梯度表示爲： 該梯度表示的幾何意義爲： 在該點（x,y,z）處函數變化

>>阅读原文<<