什麼是梯度下降法與delta法則？

梯度降法就是沿梯度下降的方向求解函數（誤差）極小值。delta法則是使用梯度下降法來找到最佳權向量。拿數字識別這個案例爲例，訓練模型的過程通常是這樣的。輸入爲1萬張圖片，也就是1萬個樣本，我們定義爲D，是訓練樣例集合，輸出爲相對應的1萬個數字。這就是1萬個目標輸出(Target），每一個目標輸出我們定義爲：td ，是訓練樣例d的目標輸出。我們的模型訓練的目的是想找出，此人工神經網絡模型的參數，比如

>>阅读原文<<