機器學習中常見優化算法之牛頓法

常見優化問題： 線性規劃 二次規劃 二次約束的二次規劃 半正定規劃 常見優化方法： 梯度上升（下降）法 牛頓法 / 擬牛頓法 座標下降法 牛頓法（擬牛頓法）： 牛頓法是一種數值逼近方法。 例如： f(x)=6x5−5x4−4x3+3x2 f ( x ) = 6 x 5 − 5 x 4 − 4 x 3 + 3 x 2 該多項式的曲線如下圖所示，可以看出，該多項式有三個根，分別在 x 等於 0、1，以

>>阅读原文<<