一個知識蒸餾的簡單介紹,一看就懂

點擊上方「AI公園」,關注公衆號,選擇加「星標「或「置頂」 作者:Prakhar Ganesh 編譯:ronghuaiyang 導讀 對教師學生網絡進行一個初步的瞭解。 什麼是知識蒸餾? 近年來,神經模型在幾乎所有領域都取得了成功,包括極端複雜的問題。然而,這些模型體積巨大,有數百萬(甚至數十億)個參數,因此不能部署在邊緣設備上。 知識蒸餾指的是模型壓縮的思想,通過一步一步地使用一個較大的已經訓練
相關文章
相關標籤/搜索