機器學習_閱讀筆記_梯度下降

前言 梯度下降法可以幫助我們找到某個函數的極小值或者最小值。這裏先拿一個損失函數來說，假設損失函數如下： 我們最終的目的求參數 θ0 θ1 使得損失函數對於給定的樣本求得的值最小。 θ0 、 θ1 對應損失函數的圖像關係類似一個碗狀(bowl shape) 單個參數與損失函數的關係圖類似於以下二維圖： 我們發現： 當 θ 在最小值左邊的時候，損失函數的導數（斜率）是負的； 當 θ 在最小值右邊的時

>>阅读原文<<