BP神經網絡—反向傳播算法

爲什麼要學習反向傳播算法？ 對於前饋神經網絡的參數學習，如果採用交叉熵損失函數，對於樣本(x，y)，其損失函數爲 給定訓練集D={(xn,yn)}, N >= n >=0，將每個樣本xn輸入給前饋神經網絡，得到網絡輸出爲yn，其在數據集D上的結構化風險函數爲 其中W和b分別表示網絡中所有的權重矩陣和偏置向量， (||W|| F)^2是正則化項，用來防止過擬合，lambda是爲正數的超參數，lamb

>>阅读原文<<