深度學習筆記_評分函數/損失函數

基本概念 評分函數Socres: 以輸入x和權值Wi爲自變量的一個函數，比如評價x屬於某個分類的可能性的分值； 損失函數L：包含數據損失+規則化項損失； 數據損失中的每一項的損失Li: 如下所示的例子，求max(0, sj-syi+1)的和，即SVM損失。 爲什麼實用max這樣的運算？ 答：爲了增加非線性，因爲生活中很多問題都不是線性的。 計算圖： 由來：直接求解損失函數L對於W權值的導數，計算量

>>阅读原文<<