精度問題

js中計算小數發現:java

0.55*100 = 55.00000000000001算法

0.55 * 10 * 10 = 55code

緣由:計算機浮點數計算精度問題。 計算機表示小數步驟:blog

1.轉換成二進制(存在精度缺失)

2.用二進制科學計算法表示

3.表示成 IEEE 754 形式(存在精度缺失)

參考連接get

相關文章
相關標籤/搜索