Pytorch第四天

任務：PyTorch理解更多神經網絡優化方法，瞭解不同優化器，書寫優化器代碼Momentum，二維優化，隨機梯度下降法進行優化實現Ada自適應梯度調節法，RMSProp，Adam ，PyTorch種優化器選擇 作業：參考https://blog.csdn.net/u010089444/article/details/76725843 SGD方法的一個缺點是其更新方向完全依賴於當前batch計算出的

>>阅读原文<<