深度學習中的多任務學習-multi-learning總結

  多任務學習(Multi-task learning)的兩種模式 深度學習中兩種多任務學習模式:隱層參數的硬共享與軟共享。網絡 隱層參數硬共享,指的是多個任務之間共享網絡的同幾層隱藏層,只不過在網絡的靠近輸出部分開始分叉去作不一樣的任務。 隱層參數軟共享,不一樣的任務使用不一樣的網絡,可是不一樣任務的網絡參數,採用距離(L1,L2)等做爲約束,鼓勵參數類似化。 Hard 參數共享 共享 Hard
相關文章
相關標籤/搜索