【正則化應用】正則化在線性迴歸以及邏輯迴歸中的應用

命題: hθ(x)=y=θ0+θ1*x1+θ2*x2+θ3*x12+θ4*x22 正則化的思路需要分析每個參數對結果的影響,如果該參數對結果影響不大,則就需要把該參數拿掉,反之,則需要保留該參數。 如果我們θ3是一個很小的參數,例如:0.00023,則我們認爲θ3*x12是一個多餘項; 所以對原來代價函數做如下調整(使用λ來調整前後兩個表達式之間的權重關係): 針對上述的表達式求導: 以下的代碼並
相關文章
相關標籤/搜索