用Python實現最速降低法求極值

對於一個多元函數 f(x)=f(x1,x2,⋯,xn) ，用最速降低法（又稱梯度降低法）求其極小值的迭代格式爲 css xk+1=xk+αkdk 其中 dk=−gk=−∇f(xk) 爲負梯度方向，即最速降低方向， αk 爲搜索步長。python 通常狀況下，最優步長 αk 的肯定要用到線性搜索技術，好比精確線性搜索，可是更經常使用的是不精確線性搜索，主要是Goldstein不精確線性搜索和Wolf

>>阅读原文<<