最優化理論3-牛頓法

回顧 在講解牛頓法之前我們先回顧一下最速梯度下降法，泰勒展開與Hessian矩陣之間的關係。 泰勒展開 對於一元函數 f ( x ) f(x) f(x)，在 x x x處的泰勒展開爲： f ( x + σ ) = f ( x ) + f ′ ( x ) σ + 1 2 f ′ ′ ( x ) σ 2 + . . . . . . f(x+\sigma)=f(x)+{f}'(x)\sigma+\fra

>>阅读原文<<