如何使用優化器讓訓練網絡更快——神經網絡的奧祕

通過使用Numpy來創建神經網絡，讓我意識到有哪些因素影響着神經網絡的性能。架構、超參數值、參數初始化，僅是其中的一部分，而這次我們將致力於對學習過程的速度有巨大影響的決策，以及所獲得的預測的準確性—對優化策略的選擇。我們會研究很多流行的優化器，研究它們的工作原理，並進行對比。 你在GitHub上可以找到所有代碼： 機器學習算法的優化 優化是搜索用於最小化或最大化函數參數的過程。當我們訓練機器學習

>>阅读原文<<