深度學習500問閱讀筆記——梯度下降？

這是深度學習500問系列筆記之一，幫助我深入記憶知識，如有不足，隨時歡迎交流和探討。 6.梯度下降？ ①梯度下降是迭代法的一種，可以用於求解最小二乘問題； ②在求解機器學習算法的模型參數，即無約束優化問題時，主要有梯度下降（Gradient Descent）和最小二乘法。 ③在求解損失函數的最小值時，可以通過梯度下降法來一步步的迭代求解，得到最小化的損失函數和模型參數值； ④如果需要求解損失函數的

>>阅读原文<<