神經網絡反向傳播

本文學習李宏毅老師機器學習——反向傳播機制,圖片取自學習視頻,侵刪。 反向傳播: 梯度下降法更新參數流程: 反向傳播是一種有效率的計算數量龐大的網絡參數梯度的方法。 鏈式法則: 定義:Cn是真實值與輸出值的距離 先觀察三角形紅框中神經元: 在這裏,假設問號處偏微分已求得,那麼: 可以將上式看做反向傳播求得: 當下一層即爲輸出層時: 當下一層不爲輸出層時,循環計算,知道輸出層爲止: 倒着計算偏微分:
相關文章
相關標籤/搜索