共軛梯度法（Conjugate Gradient）

共軛梯度法（Conjugate Gradient）是介於最速下降法與牛頓法之間的一個方法，它僅需利用一階導數信息，但克服了最速下降法收斂慢的缺點，又避免了牛頓法需要存儲和計算Hesse矩陣並求逆的缺點，共軛梯度法不僅是解決大型線性方程組最有用的方法之一，也是解大型非線性最優化最有效的算法之一。  以上參考百度百科的共軛梯度法，但是一開始沒看明白，結合《數值分析》中的一些解釋，結合自己的理解，算是大

>>阅读原文<<