減少模型方差的方法借鑑

數據信噪比非常低，rnn仍然能學到有用的東西； 減少方差的方法有三種； 第一，保存多個checkpoints； 第二、用三個隨機數種子，每個種子生成一個模型，一個模型10個checkpoints；即共有30個checkpoints 第三、訓練過程中，對於參數值使用均值來代替原來的更新的值；即使用歷史值計算均值；在原始的迭代中，每次迭代參數都會更新；但現在就用一個均值; 好比交易價格，價格不斷的更新

>>阅读原文<<