梯度算法簡析

本文涉及內容 什麼是梯度 爲什麼需要梯度下降算法 如何理解梯度算法 數學推導 梯度算法的缺點 什麼是梯度 簡單來說,多元函數的導數(derivative)就是梯度(gradient),因爲導數標識函數的變化趨勢(遞增或遞減,震盪),分別對每個變量進行微分,然後用逗號隔開,梯度是用括號包括起來,說明梯度實質是一個向量,我們說的損失函數Loss Function的梯度爲: 導數就是函數變化趨勢-變化率
相關文章
相關標籤/搜索