An Overview of Multi-Task Learning in Deep Neural Networks

在人類學習中,不同學科之間的往往能起到相互促進的作用。那麼,對於機器學習是否也是這樣的,我們不僅僅讓它專注於學習一個任務,而是讓它學習多個相關的任務,是否可以讓機器在各個任務之間融會貫通,從而提高在主任務上面的結果呢? 1.multi-task的兩種形式 前面的層是權重共享的,後面的層權重是不同的。 所有的層權重都是不同的,但是對於前面的層,我們會約束他們的權重儘可能地接近,通過會加上L2 dis
相關文章
相關標籤/搜索