牛頓法(Newton's Method) 解決優化問題——機器學習

一、簡介 牛頓方法同梯度下降法一樣,是一種優化算法,其應用如可解決logistic迴歸於分類問題中的似然函數最大化。 其是一種用於求函數零點的數值方法。 二、具體形式 首先選擇一個與零點相近的起始點,之後遵循以下更新規則不斷更新: 實際上,對於f(x)上的一個點(x0,f(x0)),求過此點切線(即斜率爲f'(x0))與x軸的交點,即解以下方程 若原先的點x0記作xn,新得到的點x記爲xn+1,那
相關文章
相關標籤/搜索