tensorflow各種優化器對比

tf.train.GradientDescentOptimizer   梯度下降法 標準梯度下降法:先計算所有樣本彙總誤差,然後根據總誤差來更新全值(時間長,值更加可靠) 隨機梯度下降法:隨機抽取一個樣本來計算誤差,然後更新權值(時間短,值相對不可靠) 批量梯度下降法:從總樣本中選取一個批次,然後計算這個batch的總誤差,根據總誤差來更新權值(折中) 
相關文章
相關標籤/搜索