調試神經網絡的注意事項和技巧總結（一）

最近在調試神經網絡的過程中，遇到了網絡不收斂的情況，查閱了很多的相關的資料，根據相關的建議，作出了一些實驗，來進行調試，下面這幾點是我遇到的幾個坑： 1.數據預處理 2. 數據規範化 3.正則化 4.batch size 5.使用了不適當的學習率 6.在最後一層使用了錯誤的**函數 7.網絡含有不良梯度 8.嘗試不同的優化器 9.及時檢查結果 首先，對於一個神經網絡來說，我們在進行建模的時候，數據

>>阅读原文<<