實習點滴(8)--收斂優化方法:牛頓法、BFGS算法與L-BFGS算法

        在瞭解CRF推導與參數估計的時候,會用到收斂優化方法去迭代求解凸優化問題,至此,總結一下我對牛頓法、BFGS算法和L-BFGS算法這三種方法的理解。      牛頓法:         方法思想:在現有極小點估計值附近對f(x)做二階泰勒展開式,進而找到下一個極小點估計值。         設:xk爲當前極小點估計值, 我們要去求這個函數的最值,則二階泰勒展開式爲:        
相關文章
相關標籤/搜索