吳恩達機器學習筆記5——線性迴歸加入正則項

一、 梯度下降法進行線性迴歸時加入正則項 （1）之前沒有加正則項時，用梯度下降法：（α後面是對假設函數J（θ）求導後得到的式子） 接下來因爲添加正則項的時候沒有考慮θ0，所以單獨把它寫出來： （2）添加正則項後求解 【注意】這個正則項添加本來是λ θ2 ，因爲梯度下降的更新θ的式子都是求導之後的，因此得到下面的： 下面將這個式子整理一下以便於理解： 對於這個式子的理解： 分爲兩部分，前面粉色框框的

>>阅读原文<<