loss問題——工作中對出現的loss問題描述與解決參考

問題一：loss跑飛 如下圖描述 1、學習率（lr）過大，可以自定義一個學習率的值（較小）開始學習。 參考blog：https://blog.csdn.net/CHNguoshiwushuang/article/details/81784299 也就是說，學習率如果設置過大，會導致其直接跑到另外一邊，從而導致loss跑飛。當然真實的loss變化是在一個奇異空間裏的，不是圖上的那種二維曲線。 設置學

>>阅读原文<<