深度學習中的Matrix Calculus (2)： Trace And Matrix Differential

  本篇主要內容就是矩陣標量函數的求導，基本思路就是： 給標量函數套上跡trace； 利用跡和矩陣微分的性質進行化簡，化簡到 df=tr((∂f∂x)Tdx) d f = t r ( ( ∂ f ∂ x ) T d x ) 就可以了 然後就可以得到 ∂f∂x ∂ f ∂ x 了   因此，在深度學習中，假如loss是L2 Norm，也就是 f=loss=‖‖aN−y‖‖22 f = l o s s

>>阅读原文<<