直觀理解 梯度（gradient）

梯度 在機器學習中，我們通常需要對問題進行建模，然後可以得到一個成本函數(cost function)，通過對這個成本函數進行最小化，我們可以得到我們所需要的參數，從而得到具體的模型。這些優化問題中，只有少部分可以得到解析解(如最小二乘法)，而大部分這類優化問題只能迭代求解，而迭代求解中兩種最常用的方法即梯度下降法與牛頓法。 梯度概念是建立在偏導數與方向導數概念基礎上的。所謂偏導數，簡單來說是對於

>>阅读原文<<