反向傳播算法推導-全連接神經網絡

反向傳播算法是人工神經網絡訓練時採用的一種通用方法，在現代深度學習中得到了大規模的應用。全連接神經網絡（多層感知器模型，MLP），卷積神經網絡（CNN），循環神經網絡（RNN）中都有它的實現版本。算法從多元複合函數求導的鏈式法則導出，遞推的計算神經網絡每一層參數的梯度值。算法名稱中的「誤差」是指損失函數對神經網絡每一層臨時輸出值的梯度。反向傳播算法從神經網絡的輸出層開始，利用遞推公式根據後一層的誤

>>阅读原文<<