Newton's method and Quasi Newton method牛頓法與擬牛頓法

Welcome To My Blog 牛頓法和擬牛頓法是求解無約束最優化問題的常用方法,優點是收斂速度快. 牛頓法是迭代算法,每一步需要求解目標函數的Hessian矩陣的逆矩陣,矩陣的逆運算很耗時. 擬牛頓法通過正定矩陣近似Hessian矩陣的逆矩陣或Hessian矩陣,簡化Hessian矩陣的求逆計算過程 採用線搜索框架 搜索方向由牛頓法或擬牛頓法給出,步長可以通過精確線搜索或非精確線搜索獲得
相關文章
相關標籤/搜索