深度學習調參體驗(一)

深度學習調參體驗(一) 基本原則: 快速試錯 一.一些大的注意事項: 1.先上小規模數據, 模型往大了放, 只要不爆顯存, 能用256個filter就別用128個。直接奔着過擬合去。就是訓練過擬合網絡, 連測試集驗證集這些都可以不用。 爲什麼? 要驗證自己的訓練腳本的流程對不對。這一步小數據量, 生成速度快, 但是所有的腳本都是和未來大規模訓練一致的(除了少跑點循環)。 如果小數據量下, 這麼粗暴
相關文章
相關標籤/搜索