小白都理解的人工智能系列(13)——如何加速神經網絡訓練過程

問題1:如何加速訓練?3d SGD將大的數據拆分紅一塊塊小的數據進行訓練。blog Momentum經過不斷調整w值的形式,朝着梯度往下走,以期儘快達到終點。im AdaGrad方式相似於一個鞋子,一走彎路,就讓你摔倒,讓你不得不走直路,儘快到底目的地。數據 Adam是結合二者一塊兒,大部分狀況下都適用。db
相關文章
相關標籤/搜索