梯度下降法推導總結

在傳統人工神經網絡ANN的訓練過程中，每次迭代的目的就是不斷地調整權值w1,w2,w3,...,wn，使訓練樣本經過神經網絡的實際輸出值與目標輸出儘可能地接近。 實際輸出和目標輸出之間的誤差度量通常採用如下平方誤差準則： （注：word的向量表達式佔多了一個空格的空間，如對排版不滿，請多多包涵） 其中，D是訓練樣本集合（dataset），s是訓練樣本，T s是s的目標輸出（即s的類別），O s是s

>>阅读原文<<