關於深度學習中的數據結構INT\FLOAT\FP(爲使用FP數據類型調用TensorCore的知識儲備)

首先我們需要知道何爲bits和bytes? bits:名爲位數 bytes:爲字節 簡單的數就是MB和G的關係!那麼8bits=1bytes,下面是各個單位的相互轉化! *引用自https://blog.csdn.net/m0_43432638/article/details/89973862 INT - 也就是整數,比如INT8就是8bit整數,取值範圍是-128~127也就是256(2^8)個
相關文章
相關標籤/搜索