浮點數在內存中的存儲方式

         浮點數可以簡單理解帶小數點的數,像10.0也爲浮點數。C/C++中使用的浮點數類型有float 和double (也分別稱之爲 單精度和雙精度浮點數),其中float佔4byte,32bit;double佔8byte。在AI計算領域,又有FP32、FP16和BF16的數據類型(也稱之爲 單精度/半精度/混合精度 浮點數),FP32類型同C/C++中的float存儲方式一樣;從字面
相關文章
相關標籤/搜索