混合精度對模型訓練和推理的影響

   作者:劉才權 編輯:黃俊嘉 01 單精度/雙精度/半精度/混合精度 計算機使用0/1來標識信息,每個0或每個1代表一個bit。信息一般會以下面的三種形式表示: 字符串 字符串的最小單元是char,每個char佔8個bit,也就是1個byte。比如字符串「abc」這三個字符組成的串佔用的存儲空間: 存儲空間=1x3=3(bytes)=24(bits) 整數 整數包括INT4、INT8、INT1
相關文章
相關標籤/搜索