標籤平滑(label smoothing)

1. 什麼是標籤平滑? 標籤平滑就是用來解決over-confident的問題,這類問題在對抗構建中尤爲重要(GANs) 通俗來講 機器學習的樣本中通常會存在少量錯誤標籤,這些錯誤標籤會影響到預測的效果。標籤平滑採用如下思路解決這個問題:在訓練時即假設標籤可能存在錯誤,避免「過分」相信訓練樣本的標籤。當目標函數爲交叉熵時,這一思想有非常簡單的實現,稱爲標籤平滑(Label Smoothing)。
相關文章
相關標籤/搜索