使用模型預測的時候GPU使用率的問題

這裏是在使用LSTM進行預測的時候的gpu使用情況 將C:\Program Files\NVIDIA Corporation\NVSMI中的nvidia-smi文件拖入到cmd窗口查看GPU 的使用情況   下圖是未進行模型預測時的使用情況：可以看到當沒有模型運行時，GPU的使用率是很低的   下圖是進行預測時的使用情況（batchsize=10000）：可見GPU的使用率已經很高了，但是顯存利用

>>阅读原文<<