如何在邊緣設備上適配大型神經網絡

對於任何想要創建可擴展服務的人來說，部署有內存限制的深度學習算法都是一個挑戰。從長遠來看，雲服務是昂貴的。在邊緣設備上離線部署模型更便宜，而且還有其他好處。唯一的缺點是它們缺乏內存和計算能力。 這篇博客探索了一些可以用來在內存受限的設備中適配神經網絡的技術。因爲「訓練」和「推理」階段用到了不同的技術，所以將它們分開討論。 訓練 某些應用程序需要在線學習。也就是說，模型要根據反饋或額外的數據進行改進

>>阅读原文<<