Tutorial: Knowledge Distillation

時間 2020-12-26

標籤 Knowledge Distillation 简体版

原文原文鏈接

概述 Knowledge Distillation(KD)一般指利用一個大的teacher網絡作爲監督，幫助一個小的student網絡進行學習，主要用於模型壓縮。其方法主要分爲兩大類 Output Distillation Feature Distillation Output Distillation Motivation 主要拉近teacher和student最終輸出的距離，參考論文：Dis

>>阅读原文<<

1. Tutorial: Knowledge Distillation
2. Knowledge Distillation
3. Knowledge Distillation 筆記
4. Awesome Knowledge-Distillation
5. Similarity-Preserving Knowledge Distillation
6. 論文Relational Knowledge Distillation
7. Correlation Congruence for Knowledge Distillation
8. knowledge distillation 論文閱讀之：ResKD: Residual-Guided Knowledge Distillation
9. knowledge distillation 論文閱讀之：Triplet Loss for Knowledge Distillation
10. Knowledge Distillation論文閱讀（2）：Learning Efficient Object Detection Models with Knowledge Distillation
更多相關文章...
• C# 結構體（Struct） - C#教程
• Lua 數組 - Lua 教程
• Git五分鐘教程
• Flink 數據傳輸及反壓詳解

相關標籤/搜索

每日一句

每一个你不满意的现在，都有一个你没有努力的曾经。

最新文章

1. JDK JRE JVM,JDK卸載與安裝
2. Unity NavMeshComponents 學習小結
3. Unity技術分享連載（64）|Shader Variant Collection|Material.SetPassFast
4. 爲什麼那麼多人用「ji32k7au4a83」作密碼？
5. 關於Vigenere爆0總結
6. 圖論算法之最小生成樹（Krim、Kruskal）
7. 最小生成樹簡單入門
8. POJ 3165 Traveling Trio 筆記
9. 你的快遞最遠去到哪裏呢
10. 雲徙探險中臺賽道：借道雲原生，尋找「最優路線」

本站公眾號

歡迎關注本站公眾號,獲取更多信息

1. Tutorial: Knowledge Distillation
2. Knowledge Distillation
3. Knowledge Distillation 筆記
4. Awesome Knowledge-Distillation
5. Similarity-Preserving Knowledge Distillation
6. 論文Relational Knowledge Distillation
7. Correlation Congruence for Knowledge Distillation
8. knowledge distillation 論文閱讀之：ResKD: Residual-Guided Knowledge Distillation
9. knowledge distillation 論文閱讀之：Triplet Loss for Knowledge Distillation
10. Knowledge Distillation論文閱讀（2）：Learning Efficient Object Detection Models with Knowledge Distillation

>>更多相關文章<<