信賴域（Trust Region）

信賴域算法TR可以用來求解非線性規劃問題（NLP, NonLinear Programing），比如含二次項問題的優化求解，但其實它跟線搜索方法一樣，大量形式的優化問題都可以通過泰勒展開爲（1）的形式，進而可以採用TR方法，不足之處是 ∇2f Hessian矩陣的計算比較耗時和佔內存： f(xk+p)=fk+∇fTkp+12pT∇2f(xk+tp)p, t∈(0,1)(1) 求解過程中，第k步，我

>>阅读原文<<