給面試官講知識蒸餾

知識蒸餾 目的: 模型網絡複雜度比較高時，不利於上線，爲了使得簡單的模型能夠有一個較高的複雜度，可以預先訓練一個複雜度較高的Teacher Network，然後用Teacher Network去教一個複雜度較低的Student Network，使得Student Network也有一個不錯的效果，然後用Student Network 去上線。 推薦： 推薦大家看一下B站的一個短視頻，這個up主比較

>>阅读原文<<