深度學習的數學原理

在網絡中，假定輸入爲X，輸出爲Y，其網絡結構的參數爲W和b,每次訓練的損失函數爲L(w,b),Cost函數J(w,b) 則：Y= W*X+b 也就是W和b與網絡模型的好壞的直接相關；同時訓練就是訓練的W和b參數讓J最小   參數修正 TF圖： 在tf中存在計算圖的前向傳導和BP（後向傳導）修正參數，假定計算：F(a,b,c) =  3(a+bc) d代表計算梯度，則： 由上圖知：計算圖是從前向後計

>>阅读原文<<