蒸餾法——人臉識別

1，Model Distillation with Knowledge Transfer from Face Classification to Alignment and Verification 1）初始化策略： 1.1）使用softmax損失先進行預訓練優化， 2) 對於非分類任務的蒸餾法損失函數如下所示： 其中第一項是特定任務的損失函數，第三項是特定任務的蒸餾損失項，第二項是原始hinto

>>阅读原文<<