浮點數內存存儲格式

對於浮點數的存儲格式一直很頭疼 浮點數大部分都是IEEE標準存儲 這個標準根本不能精確表示浮點數。。。只知道近似舍入。。。 來看  0.1 0.1根本不能用有限的二進制表示 先說十進制小數如何轉換爲二進制, 方法是乘2 取整,用餘下的小數繼續乘2取整 0.1X2 = 0.2   整數爲0    取0 0.2X2=0.4    整數爲0 取0 0.4x2=0.8  整數爲0 取0 0.8x2=1.6
相關文章
相關標籤/搜索