【基礎】浮點型運算結果不精確的原因

解析: 單精度有7~8位小數,雙精度有15位小數 二進制存儲,單精度只有16個二進制位,雙精度有64個二進制位,二進制位裏面包含正負號,整數部分,小數點,小數部分 正 負號和小數點佔用二進制位數是定值。 將十進制浮點數轉換爲二進制浮點數時,小數的二制有時也是不可能精確的,就如同十進制不能準確表示1/3,二進制也無法準確表示1/10,而double類型存儲尾數部分最多隻能存儲52位,於是,計算機在存
相關文章
相關標籤/搜索