深度學習與神經網絡學習筆記（三）

四、logistic 迴歸中的梯度下降   我們一般可以通過圖中的方式來進行損失函數的求解，而損失函數是怎麼反向影響 (ω,b) 的值的變化的呢？這就要用到導數的知識了，首先我們把損失函數對a求導： d(a)=dL(a,y)d(a)=−ya+1−y1−a   然後再對 z 求導： d(z)=dL(a,y)d(z)=dL(a,y)d(a)d(a)d(z)=a−y   最後我們分別對各個參數求導就可以

>>阅读原文<<