梯度下降優化算法

梯度下降優化算法 一、簡介 二、梯度下降方法 2.1 批量梯度下降法BGD 2.2 隨機梯度下降法SGD 2.3 小批量梯度下降法MBGD 三、傳統梯度下降法面臨的挑戰 四、改進的梯度下降算法 4.1 Momentum 4.2 Nesterov accelerated gradient 4.3 Adagrad 4.4 RMSprop 4.5 Adam 4.6 對比與選擇 五、Tips 一、簡介 二

>>阅读原文<<