梯度降低算法比較

Batch gradient descent θ=θ−η⋅∇θJ(θ) .html 例如在線性迴歸中，損失函數是: J(θ)=12∑mi=1(hθ(x(i))−y(i))2 使用梯度降低的方法使得 J(θ) 最小化web 初始化 θ ，例如令 θ1=θ2...=θn=0 沿着負梯度方向迭代，更新後的 θ 使 J(θ) 更小 θj=θj−α.∂J(θ)∂θj 對於BGD來講 θj=θj−α.∑mi=

>>阅读原文<<