UFLDL教程(一)---稀疏自編碼器

神經網絡模型 簡單的神經網絡 前向傳播 代價函數 對於單個例子 。其代價函數爲: 給定一個包括m個例子的數據集,我們能夠定義總體代價函數爲: 以上公式中的第一項  是一個均方差項。 第二項是一個規則化項(也叫權重衰減項)。其目的是減小權重的幅度。防止過度擬合。 反向傳播算法 反向傳播算法,它是計算偏導數的一種有效方法。 批量梯度下降法 梯度檢驗 給定一個被覺得能計算 的函數,我們能夠用以下的數值檢
相關文章
相關標籤/搜索