跟我學神經網絡2-反向傳播

1. 關鍵詞 梯度下降,反向傳播 2. 導讀 本文介紹了反向傳播的數學基礎,及其過程。 3. 數學基礎 3.1 梯度下降 神經網絡求解的目的,是使輸出值更接近於真實值,這就轉化成一個求最優解或最小值的過程,最常用的就是梯度下降法。從山頂沿負梯度方向(導數的反方向),一步步走到山底。 上圖也演示了梯度下降受到起點的影響,得到的是局部最優解,並不一定是全局最優解。 3.2 鏈式法則 求解梯度就是求導數
相關文章
相關標籤/搜索