Numerical Optimization之Nonlinear Equations

對於局部方法，當接近最優點時，才保證收斂。單位步長。 全局方法採用線搜索或信賴域方法 1 局部方法 1.1 牛頓方法 如上圖，求解非線性方程組的根類似於求解無約束問題中的最優值，最優值在穩定點取到。 非精確牛頓法任然是local 的算法，沒有使用精確的線搜索 不精確牛頓法餘量不超過一個上界 1.1.2 Broyden’s Method 利用 B k B_k Bk​近似雅可比，不要求其對稱 推導如下

>>阅读原文<<