Java浮點類型注意事項

一、浮點類型的小數存儲問題 該結果是正確的,二進制無法準確的存儲0.3,陷入了無限循環當中。類似的小數還很多,這是因爲小數十進制轉二進制的算法決定的,陷入了無線循環當中,永遠是一個無限循環的值,所以在表示浮點數的時候藥特意留心。 二、浮點數的有效位數和精度問題 其實無論小數還是整數在計算機系統中,有效位數都是有限的,超出有效位數的只能存儲相似值, float類型的二進制有效位是24位,對應十進制的
相關文章
相關標籤/搜索