Levenberg-Marquardt優化算法以及基於LM的BP-ANN

一.LM最優化算法        最優化是尋找使得目標函數有最大或最小值的的參數向量。根據求導數的方法，可分爲2大類。（1）若f具有解析函數形式，知道x後求導數速度快。(2)使用數值差分來求導數。根據使用模型不同，分爲非約束最優化、約束最優化、最小二乘最優化。Levenberg-Marquardt算法是最優化算法中的一種。    Levenberg-Marquardt算法是使用最廣泛的非線性最小二

>>阅读原文<<