LR進階之softmax regression（含具體梯度推導）

在Logistic regression中，所學習的系統的程爲：  　　 　　其對應的損失函數爲：  　　 　　可以看出，給定一個樣本，就輸出一個概率值，該概率值表示的含義是這個樣本屬於類別’1’的概率，因爲總共纔有2個類別，所以另一個類別的概率直接用1減掉剛剛的結果即可。如果現在的假設是多分類問題，比如說總共有k個類別。在softmax regression中這時候的系統的方程爲：  　　 　　

>>阅读原文<<