NVIDIA® TensorRT™ supports different data formats

NVIDIA® TensorRT™ supports different data formats NVIDIA®TensorRT公司™ 支持不同的數據格式。需要考慮兩個方面:數據類型和佈局。 數據類型格式 數據類型是每個單獨值的表示。它的大小決定了值的範圍和表示的精度;它們是FP32(32位浮點或單精度)、FP16(16位浮點或半精度)、INT32(32位整數表示)和INT8(8位表示)。 佈局
相關文章
相關標籤/搜索