機器學習中優化模型預算法（一）

一、最優化問題 1.無約束優化      1.1 必要條件           一階必要條件：梯度爲0           二階必要條件：二階hessian矩陣半正定      1.2步長的搜索方法           設當前位置 x k x^k xk，搜索方向爲 d k d^k dk，搜索步長 a a a， x k + 1 = x k + a d k x^{k+1}=x^k+ad^k xk+1=

>>阅读原文<<