最陌生的老朋友Softmax Loss

今天給大家介紹的工作是大家最陌生的老朋友Softmax Loss。Softmax可以算是最爲廣泛使用的分類loss，在大家都在極力壓榨網絡結構來換取性能提升的時候，回過頭來再去看看這個網絡訓練的「指揮棒」，能有很多新的發現。 其實在讀到這一系列工作之前，我花很久考慮過一個問題，對於SVM來講，margin的概念十分清晰易懂，那麼對於Softmax而言，如果我們要引入Max Margin的概念，那麼

>>阅读原文<<