矩陣求導與BP的證實的建議

前言 在有些博客推導神經網絡的BP時，涉及到屢次矩陣求導運算，尤爲是反向傳播時候，求的梯度結果被轉置了，好比假設最後一層的輸出爲 html y=σ(w⋅x+b) 那麼 ∂y∂w∂y∂x=σ′(w⋅x+b)⋅xT=σ′(w⋅x+b)⋅wT 這兩個式子到底正確不正確，這個就涉及到矩陣求導了，轉沒轉置這個對推導細節也是蠻重要的，接下來就看看我我的認爲比較重要的矩陣求導式子，不按期更新。最後再證實這兩個式

>>阅读原文<<