Tensorflow學習教程------代價函數

二次代價函數(quadratic cost):   其中,C表示代價函數,x表示樣本,y表示實際值,a表示輸出值,n表示樣本的總數。爲簡單起見,使用一個樣本爲例進行說明,此時二次代價函數爲:   假如我們使用梯度下降法(Gradient descent)來調整權值參數的大小,權值w和偏置b的梯度推導如下:   其中,z表示神經元的輸入,σ表示激活函數。w和b的梯度跟激活函數的梯度成正比,激活函數的

>>阅读原文<<