數值優化（十）

最小二乘方 在最小二乘方問題中，目標函數有如下的形式\[f(x)=\frac{1}{2} \sum_{j=1}^{m}r^2_j(x)\]針對這種特殊的形式，可以採取專門的方法來加速優化。計算其梯度以及Hessian得到\[\nabla f(x) = \sum_{j=1}^m r_j(x)\nabla r_j(x) = J(x)^T r(x)\]\[\nabla^2 f(x) =J(x)^TJ(x

>>阅读原文<<