深度學習（二）BP求解過程和梯度下降

一、原理 重點：明白偏導數含義，是該函數在該點的切線，就是變化率，一定要理解變化率。 1）什麼是梯度 梯度本意是一個向量（矢量），當某一函數在某點處沿着該方向的方向導數取得該點處的最大值，即函數在該點處沿方向變化最快，變化率最大（爲該梯度的模）。   2）代價函數有哪些 0-1損失函數(0-1 loss function):  L(Y,f(X))={1,0,Y≠f(X)Y=f(X) 平方損失函數(

>>阅读原文<<