關於梯度下降算法

前邊博文說了關於MNIST手寫字體的識別，現在專門記錄下使用梯度下降算法進行學習的方法： 我們將⽤符號 x 來表⽰⼀個訓練輸⼊。爲了⽅便，把每個訓練輸⼊ x 看作⼀個 28 *28 = 784維的向量。每個向量中的項⽬代表圖像中單個像素的灰度值。我們⽤ y = y(x) 表⽰對應的期望輸出，這⾥ y 是⼀個 10 維的向量。例如，如果有⼀個特定的畫成 6 的訓練圖像，x，那麼y(x) = (0,0

>>阅读原文<<