梯度降低法,最小二乘法求線性迴歸

一.梯度降低法:函數 咱們假設迴歸函數爲:spa         ,這裏x0 = 1.3d 定義迴歸函數和實際值之間差的均方和爲損失函數:blog       ,m爲樣本數量ast 咱們的目的是求出使損失函數最小的參數的值。求最小值,對於每一個參數,求出梯度並使梯度等於0,此時的即爲對於參數來講,損失函數最小。im 是包含全部參數的一維向量,咱們先初始化一個,在這個值之上,用梯度降低法去求出下一組
相關文章
相關標籤/搜索