【零基礎】看懂神經網絡中的反向傳播

一、序言   反向傳播在神經網絡中用於優化權重w和閾值b,是神經網絡優化的核心算法。經過數日的學習終於看明白了一點反向傳播的原理,這裏作文記錄心得。   本文先介紹一下基本的數學計算方法,然後根據「損失計算公式」推導出優化參數的反向傳播方法。 二、基本數學原理   神經網絡中優化參數w、b的方法稱爲反向傳播,反向傳播的具體實施方法稱爲「梯度下降」,梯度下降涉及兩個基本的數學知識:求導、鏈式法則。
相關文章
相關標籤/搜索