Knowledge Projection for Effective Design of Thinner and Faster Deep Neural Networks論文初讀

目錄 摘要 引言 相關工作 KPN   總覽   KPN層設計   多路多階段訓練   迭代刪減選擇映射路徑 實驗結果   數據集上的分析   自動路徑選擇方法的分析 結論 摘要 作者提出了一種teacher-student映射知識蒸餾的方法,在小數據集上有效 teacher和student用來對接的中間層可以通過自適應的方式來選擇,這種自適應的方式是以一種迭代的方式通過評估聯合損失來完成的 引言
相關文章
相關標籤/搜索