【機器學習入門】1.2線性迴歸之梯度下降

梯度:上升 指向標量場增長最快的方向 梯度下降:下降的 指向標量場下降最快的方向 機器學習: 一個目標函數求解 一步步迭代(線性迴歸只是個特例,可以直接求解) 爲什麼不快速迭代: 一小步一小步,走快了容易跌倒:陷入一個極小值點出不來了,全局上看並不是最小值點 學習率(步長)太快:容易出錯 選擇:小學習率,大迭代次數 3種梯度下降的方法: 1.批量梯度下降:全部樣本:費事,收斂 2.隨機梯度下降:一
相關文章
相關標籤/搜索