深度學習Loss 種類彙總以及討論

(1) 首先是從大的角度來說,度量loss的主要爲兩種方法。一種是從歐式距離計算,以L2-norm爲主,一種是近來的另闢蹊徑的轉換到角度領域,主要從餘弦和夾角這兩個在我看來有異曲同工之效的角度。但是,總的Loss改進的出發點從之前的可分到現在的最大化類間最小化類內這個目標。 遍觀出現的Loss種類,我覺得可以分爲兩大類。一類以樣本本身爲一個優化手段,一類以改進softmax的margin種類爲優化
相關文章
相關標籤/搜索