學習率與batch_size對模型性能的影響

目錄 學習率 Batch_size（批量大小） 學習率與batch_size在權重更新中的關係 學習率與batch_size對模型性能的影響（轉載：原文） 學習率 學習率（lr）表示每次更新權重參數的尺度（步長），。 Batch_size（批量大小） batch_size有一個計算公式，即 ,  或者 , N爲訓練數據集大小， batch爲需要多少次迭代才能在一個epoch中訓練完整個數據集。ba

>>阅读原文<<