深層神經網絡——滑動平均模型

在採用隨機梯度下降算法訓練神經網絡時，使用滑動平均模型在很多應用中都可以在一定程度上提高最終模型在測試數據上的表笑。 在Tensorflow中提供了tf.train.ExponentialMovingAverage來實現滑動平均模型。在初始化ExponentialMovingAverage 時，需要提供一個衰減率（decay）。這個衰減率會用於控制模型的更新速度。ExponentialMoving

>>阅读原文<<