深度學習 | 訓練網絡trick——label smoothing(附代碼)

1.背景介紹: 在多分類訓練任務中,輸入圖片通過神級網絡的計算,會獲得當前輸入圖片對應於各個類別的置信度分數,這些分數會被softmax進行歸一化處理,最終獲得當前輸入圖片屬於每一個類別的機率。c++ 以後在使用交叉熵函數來計算損失值:git 最終在訓練網絡時,最小化預測機率和標籤真實機率的交叉熵,從而獲得最優的預測機率分佈。在此過程當中,爲了達到最好的擬合效果,最優的預測機率分佈爲:github
相關文章
相關標籤/搜索