Resnet-18-訓練實驗-warm up操做

實驗數據：cat-dog 二分類，訓練集：19871 驗證集：3975 實驗模型：resnet-18 batchsize：128*2 （一個K80吃128張圖片）web 存在的問題： 對訓練集 accuracy可達0.99 loss=1e-2 -3，然而驗證集 accuracy 0.5，loss 很高，試了多個初始學習率（0.1 — 0.0001）都不行網絡 解決上述問題： 採起warm up方法

>>阅读原文<<