牛頓法及擬牛頓法筆記

牛頓法 二階優化算法又稱爲牛頓法，牛頓法是微積分學中， 通過迭代以求解可微函數f的零點的一種算法，而在最優化中，牛頓法通常被運用於求解一個二次可微函數f的一階導數f’的零點x， 同時也是f的駐點。 因此從另一個角度而言，應用於最優化中的牛頓法是求解函數 f(x)的最小值或最大值的一種算法。 考慮無約束最優化問題 minx∈Rnf(x) m i n x ∈ R n f ( x ) 其中 x∗ x ∗

>>阅读原文<<