詳細解析卷積神經網絡之反向傳導算法

假設我們有一個固定樣本集 ，它包含  個樣例。我們可以用批量梯度下降法來求解神經網絡。具體來講，對於單個樣例 ，其代價函數爲： 這是一個（二分之一的）方差代價函數。給定一個包含  個樣例的數據集，我們可以定義整體代價函數爲： 以上關於定義中的第一項是一個均方差項。第二項是一個規則化項（也叫權重衰減項），其目的是減小權重的幅度，防止過度擬合。 [注：通常權重衰減的計算並不使用偏置項 ，比如我們在  

>>阅读原文<<