對SVM合頁損失梯度的推導

對第i個樣本來說, 如果對Wj求梯度,就要對Y矩陣中Si的每一列都對Wj求導,如果這一列不等於標籤,則展開的損失函數中只有第j項Wj*Xi可以對Wj求導,結果爲Xi; 如果這一列正好等於標籤,也就是j==label,對Wlabel求導,結果爲-1,這一列的損失函數爲0,而每一列的loss>0的求導結果都爲-1,此時的梯度就是-1 x count(loss>0)。
相關文章
相關標籤/搜索