【深度乾貨】2017年深度學習優化算法研究亮點最新綜述（附slide下載）

點擊有驚喜html 梯度降低算法是機器學習中使用很是普遍的優化算法，也是衆多機器學習算法中最經常使用的優化方法。幾乎當前每個先進的（state-of-the-art）機器學習庫或者深度學習庫都會包括梯度降低算法的不一樣變種實現。可是，它們就像一個黑盒優化器，很可貴到它們優缺點的實際解釋。Sebastian Ruder曾在去年發表博文 《梯度降低優化算法綜述》（An overview of grad

>>阅读原文<<