浮點數比較大小的問題

浮點數比較大小,由於精度問題,所以直接比較有時可能會出錯。   單精度數7位有效數字。 (float) 雙精度數16位有效數字。(double)   單精度數的尾數用23位存儲,加上默認的小數點前的1位1,2^(23+1) = 16777216。因爲 10^7 < 16777216 < 10^8,所以說單精度浮點數的有效位數是7位。 雙精度的尾數用52位存儲,2^(52+1) = 90071992
相關文章
相關標籤/搜索