導數、偏導數、方向導數、梯度、梯度下降

前言 　機器學習中的大部分問題都是優化問題，而絕大部分優化問題都可以使用梯度下降法處理，那麼搞懂什麼是梯度，什麼是梯度下降法就非常重要！這是基礎中的基礎，也是必須掌握的概念！  　提到梯度，就必須從導數（derivative）、偏導數（partial derivative）和方向導數（directional derivative）講起，弄清楚這些概念，才能夠正確理解爲什麼在優化問題中使用梯度下降法

>>阅读原文<<