深度學習的一些經驗總結

一、學習率問題html 學習率要儘可能小一點,通常是四位小數,而且在訓練過程當中不能不變要給個衰減因子使學習率降低。網絡 if (epoch+1) > (self.num_epochs - self.num_epochs_decay): lr -= (self.lr / float(self.num_epochs_decay)) for param_group in self.
相關文章
相關標籤/搜索