牛頓法和擬牛頓法

  牛頓法（Newton method）和擬牛頓法（quasi Newton method）是求解無約束最優化問題的常用方法，有收斂速度快的優點。牛頓法是迭代算法，每一步都需求解目標函數的海塞矩陣（Hessian Matrix），計算比較複雜。擬牛頓法通過正定矩陣近似海塞矩陣的逆矩陣或海塞矩陣，簡化了這一計算過程。 1、牛頓法 1.1、原理   牛頓法的原理是使用函數 f(x) f ( x ) 的

>>阅读原文<<