牛頓法， Jacobian矩陣 和 Hessian矩陣

牛頓法 主要有兩方面的應用： 求方程的根； 求解最優化方法； 爲什麼要用牛頓法求方程的根？ 問題很多，牛頓法 是什麼？目前還沒有講清楚，沒關係，先直觀理解爲 牛頓法是一種迭代求解方法（Newton童鞋定義的方法）。 擴展到最優化問題 這裏的最優化 是指非線性最優化，解非線性最優化的方法有很多，比如 梯度下降法、共軛梯度法、變尺度法和步長加速法 等，這裏我們只講 牛頓法。 其中H是hessian矩陣

>>阅读原文<<