系列筆記 | 深度學習連載(2):梯度下降

點擊上方「AI有道」,選擇「星標」公衆號 重磅乾貨,第一時間送達 我們回憶深度學習「三板斧」: 1. 選擇神經網絡 2. 定義神經網絡的好壞 3. 選擇最好的參數集合 其中步驟三,如何選擇神經網絡的好壞呢? 梯度下降是目前,最有效的方法之一。 方法:我們舉兩個參數的例子 θ1、θ2, 損失函數是L。那麼它的梯度是: 那我爲了求得最小值,我們有: 參數不斷被梯度乘以學習率η 迭代 那麼上述公示公爲什
相關文章
相關標籤/搜索