機器學習筆記6 - 梯度下降

梯度下降的思想 梯度下降是求得函數最小值的算法。在邏輯迴歸中，梯度下降用來求得損失函數（或代價函數）的最小值J(θ)min。 初始隨機選擇權重參數組合(θ0,θ1,…,θn)，計算損失函數（或代價函數），然後尋找下一個能讓損失函數（或代價函數）值下降最多的權重參數組合。 注：梯度下降在線性迴歸中求得是平方誤差代價函數的最小值，邏輯迴歸中是求得損失函數的最小值。無論是代價函數還是損失函數（其實損失函

>>阅读原文<<