8.人工智能數學基礎--《微積分與概率論》--導數在梯度下降中的應用

方向導數： 主要是求在某個方向上導數最大，然後此時梯度下降最快，可以以最快的速度達到最優解。但有可能計算360度方向上進行導數計算，其導數可能只是局部最優值，因爲可能按照當前方向進行計算，到了一半進度的時候，又遇到了比他高的陡坡，而沒有按此方向計算一直到底部，這就稱之爲局部最優解。

>>阅读原文<<