深度學習知識點(2):標準梯度下降法

  梯度下降是一種迭代式的最優化手段,在機器學習中一般用於求目標函數的極小值點,這個極小值點就是最優的模型內部參數。相比求解析解的手段,GD的通用性更強,所以受到廣泛的使用。 1、一元函數的梯度下降法 比如求解f(x)=(x-1)2的最小值點 梯度下降的公式爲,上標表示第i輪的x值
相關文章
相關標籤/搜索