隨手記-float精度問題(有圖)

float 精度問題 對於十進制小數,整數部分轉換成二進制使用「展除法」(就是不斷除以 2,直到餘數爲 0),一個有限位數的整數一定能轉換成有限位數的二進制。但是小數部分就不一定了,小數部分轉換成二進制使用「乘二取整法」(就是不斷乘以 2,直到小數部分爲 0),一個有限位數的小數並不一定能轉換成有限位數的二進制,只有末位是 5 的小數纔有可能轉換成有限位數的二進制,其它的小數都不行。 float
相關文章
相關標籤/搜索