梯度下降總結(BGD ,SGD, MBGD)

1. 從梯度下降開始 這兩天學習了機器學習課程的第二課，課程內容是圍繞梯度下降展開的，下面就我的學習內容做一個總結。 什麼是梯度下降？ 梯度下降 (Gradient Decent) 是優化算法的一種，其思想是讓損失函數沿着梯度的方向下降， 以最快的速度取到最小值。爲啥是沿梯度的方向？因爲梯度 (gradient) 就是函數變化最快的方向，貼一個梯度的定義: 梯度-維基百科，想深入瞭解的同學可以自取

>>阅读原文<<