二階隨機優化算法小結

二階隨機優化算法 標籤（空格分隔）： L-BFGS NewSample Lissa 最近看了幾篇二階優化算法，現在總結一下，以便日後查閱.就是這樣 二階算法 二階優化算法又稱爲牛頓法，牛頓法是微積分學中， 通過迭代以求解可微函數f的零點的一種算法，而在最優化中，牛頓法通常被運用於求解一個二次可微函數f的一階導數f’的零點x， 同時也是f的駐點。 因此從另一個角度而言，應用於最優化中的牛頓法是求解函

>>阅读原文<<