多任務學習

多任務學習(multi-task learning) 歸納遷移機制,主要目標是利用隱含在多個相關任務的訓練信號中的特定領域信息來提高泛化能力。 深度學習中兩種多任務學習模式:隱層參數的硬共享和軟共享。 (1)硬共享機制:在所有任務之間共享隱藏層,同時保留幾個特定任務的輸出層來實現。降低了過擬合的風險。直觀來講,越多任務同時學習,我們的模型就能捕捉到越多任務的同一個表示,從而導致在我們原始任務上的過
相關文章
相關標籤/搜索