Jacobian矩陣和Hessian矩陣的理解

深度學習中梯度向量的計算,Jacobian矩陣和Hessian矩陣是基礎的知識點。 求微分其實就是線性化,導數其實就是線性空間之間的線性變換,Jaocibian矩陣本質上就是導數。 比如,映射在處的導數就是在處的切空間到在處的切空間之間的線性映射。切空間都是矢量空間,都有基底,所以這個線性變換就是矩陣。在歐氏空間子空間的開集上,切空間就是某個,比如實軸上的切空間就是,曲面上的切空間爲。這樣一想,函
相關文章
相關標籤/搜索