優化算法——擬牛頓法之L-BFGS算法

一、BFGS算法     在「優化算法——擬牛頓法之BFGS算法」中，我們得到了BFGS算法的校正公式： 利用Sherman-Morrison公式可對上式進行變換，得到 令，則得到： 二、BGFS算法存在的問題     在BFGS算法中，每次都要存儲近似Hesse矩陣，在高維數據時，存儲浪費很多的存儲空間，而在實際的運算過程中，我們需要的是搜索方向，因此出現了L-BFGS算法，是對BFGS算法的一

>>阅读原文<<