梯度下降原理解析

1 原理 在機器學習的核心內容就是把數據餵給一個人工設計的模型，然後讓模型自動的「學習」，從而優化模型自身的各種參數，最終使得在某一組參數下該模型能夠最佳的匹配該學習任務。那麼這個「學習」的過程就是機器學習算法的關鍵。梯度下降法就是實現該「學習」過程的一種最常見的方式，尤其是在深度學習(神經網絡)模型中，BP反向傳播方法的核心就是對每層的權重參數不斷使用梯度下降來進行優化。 梯度下降法(gradi

>>阅读原文<<