基於線性支持向量機的深度學習

2015-2 摘要 最近，全連接神經網絡和卷積神經網絡在語音識別、圖像分類、自然語言處理和生物信息學等廣泛地任務中實現了最先進的性能。對於分類任務，這些深度學習模型大多采用softmax激活函數進行預測，最小化交叉熵損失。在本文中，我們展示了用線性支持向量機替換softmax層的一個小而一致的優勢。學習基於邊際損失最小化而不是交叉熵損失最小化。雖然在現有技術中已有多種神經網絡和和支持向量機的組合，

>>阅读原文<<