一文通透優化算法：從隨機梯度、隨機梯度降低法到牛頓法、共軛梯度

       一文通透優化算法：從隨機梯度、隨機梯度降低法到牛頓法、共軛梯度       1 什麼是梯度降低法 常常在機器學習中的優化問題中看到一個算法，即梯度降低法，那到底什麼是梯度降低法呢？php 維基百科給出的定義是梯度降低法（Gradient descent）是一個一階最優化算法，一般也稱爲最速降低法。 要使用梯度降低法找到一個函數的局部極小值，必須向函數上當前點對應梯度（或者是近似梯度）

>>阅读原文<<