英偉達（NVIDIA）訓練深度學習模型神器APEX使用指南

你是否苦悶於教研室卡很少，卡顯存不大，不少模型無法跑，是否發愁不能用很大的batch size致使loss無法下降。若是你使用的是PyTorch，恭喜你，你徹底可使用APEX從中解脫出來。python APEX是什麼 APEX是英偉達開源的，完美支持PyTorch框架，用於改變數據格式來減少模型顯存佔用的工具。其中最有價值的是amp（Automatic Mixed Precision），將模型的大

>>阅读原文<<