小常識3-深度學習常見梯度降低優化方法總結

1. 三種梯度降低優化框架 有三種梯度降低算法框架，它們不一樣之處在於每次學習(更新模型參數)使用的樣本個數，每次更新使用不一樣的樣本會致使每次學習的準確性和學習時間不一樣。git 全量梯度降低(Batch gradient descent)：每次使用全量的訓練集樣原本更新模型參數；github 隨機梯度降低(Stochastic gradient descent)：每次從訓練集中隨機選擇一個樣原

>>阅读原文<<