深度學習之各類優化算法

機器之心編譯python 參與：沈澤江git 　　梯度降低法，是當今最流行的優化（optimization）算法，亦是至今最經常使用的優化神經網絡的方法。本文旨在讓你對不一樣的優化梯度降低法的算法有一個直觀認識，以幫助你使用這些算法。咱們首先會考察梯度降低法的各類變體，而後會簡要地總結在訓練（神經網絡或是機器學習算法）的過程當中可能遇到的挑戰。github 　　目錄：算法 梯度降低的各類變體服務器

>>阅读原文<<