梯度下降

小白白一個，總結摘要，歡迎指正。 一. 批梯度下降算法  梯度下降原理：將函數比作一座山，我們站在某個山坡上，往四周看，從哪個方向向下走一小步，能夠下降的最快。 可以用以下式子表示一個樣本：   θ表示X映射成Y的權重，x表示一次特徵。假設x0=1,上式就可以寫成： 分別使用x(j),y(j)表示第J個樣本。我們計算的目的是爲了讓計算的值無限接近真實值y，即代價函數可以採用LMS算法 要獲取J(θ

>>阅读原文<<