牛頓法與擬牛頓法

作者: peghoty  出處: http://blog.csdn.net/itplus/article/details/21896453 補充： 牛頓下降法 優點：對於正定二次函數，迭代一次，就可以得到極小值點。下降的目的性更強。 缺點：要求二階可微分；收斂性對初始點的選取依賴性很大；每次迭代都要計算Hessian矩陣，計算量大；計算Dk時，方程組有時奇異或者病態，無法求解Dk或者Dk不是下降方

>>阅读原文<<