梯度下降優化算法

隨機性（方差）->噪聲->波動大小 傳統方法 https://www.jiqizhixin.com/articles/2016-11-21-4 batch批訓練—不同的更新梯度的方式 batch梯度下降分爲三種:batch梯度下降、隨機化batch梯度下降、mini-batch梯度下降 1.batch 遍歷全部數據集算一次損失函數，然後算函數對各個參數的梯度，更新梯度。這種方法每更新一次參數都要把

>>阅读原文<<