最速下降法和共軛梯度法

方法原理 求解特殊類型(對稱正定矩陣 A )的線性方程組 Ax=b 二次型引理: 上述問題 Ax=b 等價於極小化二次型 q(x)=xTAx−2xTb 對於 ∀x ,沿着從x出發的任意 v 的射線 x+tv 都可以在 t=t^ 處求得其在該射線上的極小值 q(x+t^v)=q(x)−⟨v,b−Ax⟩2⟨v,Av⟩,t^=⟨v,b−Ax⟩⟨v,Av⟩ 可以看出: 對於不滿足 b−Ax=0 的 x ,

>>阅读原文<<