【深度學習】函數f對矩陣(向量)的求導----求梯度矩陣

文章目錄 簡介 前提 求梯度矩陣 海塞矩陣 簡介 神經網絡最優化過程中,會涉及到對損失函數求梯度問題,損失函數的變量爲矩陣,輸出值爲實數。 需要理解函數關於矩陣的導數 前提 梯度求解的前提是函數 f f f返回的是一個實數,如果函數返回的是一個矩陣或者向量,那麼我們是沒有辦法求梯度的。 但是求解出來的梯度是矩陣或者向量形式 求梯度矩陣 海塞矩陣
相關文章
相關標籤/搜索