《最優化導論》-11擬牛頓法

1.基本思想 1.1基本缺陷 需要計算黑塞矩陣，需要求矩陣的逆運算 1.2擬牛頓法思想 構造黑塞矩陣的逆的近似： 擬牛頓法中，如果找到合適的近似構造矩陣Hk，在迭代中就不需要任何黑塞矩陣，及線性方程逆運算的計算工作了。 1.3構造黑塞矩陣逆矩陣的近似 其中，在二次型函數中，ak都可以用公式直接求最佳步長。 1）秩1算法 例： 2）秩2算法/DFP算法 3）BFGS算法

>>阅读原文<<