機器學習筆記~三種梯度降低算法的優劣

經常使用的梯度降低算法通常是Batch Gradient Descent，Mini-batch Gradient Descent和Stochastic Gradient Descent。算法 1. Batch Gradient Descent函數 1）優勢：學習 在訓練過程當中，使用固定的學習率，沒必要擔憂學習率衰退現象的出現。 具備一條直接到最小值的軌跡線，而且當目標函數爲凸函數時，理論上保證收

>>阅读原文<<