論文閱讀（8）：ShrinkTeaNet: Million-scale Lightweight Face Recognition via Shrinking Teacher-Student Net

一、問題與挑戰 大規模人臉識別在很多領域得以應用，這些系統大多依賴於複雜、參數量多的深度神經網絡來實現，計算量大，複雜度高。需要高性能、有並行計算能力的特殊硬件才能執行，不適用於移動設備或嵌入式系統 現有的知識蒸餾方法專注於閉集問題下的精度和壓縮比，以「測試類別與訓練類別是固定的」爲前提，不適用於開集任務 現有知識蒸餾方法大多數都纔去teacher和student的特徵間L2距離，要求特徵進行精確

>>阅读原文<<