優化算法

優化算法 概念：優化指的是改變x的值以最小化或者最大化某個函數f(x)的任務，通常以最小化f(x)爲目標。 1：梯度下降法： 1.1 梯度的概念 梯度實際上就是多變量微分的一般化： 如上所示：是一個函數,梯度就是對函數的每個變量進行微分，梯度是一個向量 梯度是微積分中一個很重要的概念，下面是梯度的意義 a：在單變量的函數中，梯度其實就是函數的微分，代表着函數在某個給定點的切線的斜率 b：在多變量函

>>阅读原文<<