Pytorch GPU內存佔用很高,但是利用率很低

1.GPU 佔用率,利用率 輸入nvidia-smi來觀察顯卡的GPU內存佔用率(Memory-Usage),顯卡的GPU利用率(GPU-util) GPU內存佔用率(Memory-Usage) 往往是由於模型的大小以及batch size的大小,來影響這個指標 顯卡的GPU利用率(GPU-util) 往往跟代碼有關,有更多的io運算,cpu運算就會導致利用率變低。比如打印loss, 輸出圖像,等
相關文章
相關標籤/搜索