JS中浮點數精度偏差解決

問題出現

0.1 + 0.2 = 0.30000000000000004

 

問題分析

　　對於浮點數的四則運算，幾乎全部的編程語言都會有相似精度偏差的問題，只不過在 C++/C#/Java 這些語言中已經封裝好了方法來避免精度的問題，而 JavaScript 是一門弱類型的語言，從設計思想上就沒有對浮點數有個嚴格的數據類型，因此精度偏差的問題就顯得格外突出。

　　咱們知道，能被計算機讀懂的是二進制，而不是十進制，因此咱們先把 0.1 和 0.2 轉換成二進制看看：　　

 0.1==》0.1.toString(2)==》0.0001100110011(無限循環..)
 0.2==》0.2.toString(2)==》0.001100110011 (無限循環..)

　　雙精度浮點數的小數部分最多支持 52 位，因此二者相加以後獲得這麼一串 0.0100110011001100110011001100110011001100110011001100 因浮點數小數位的限制而截斷的二進制數字，這時候，咱們再把它轉換爲十進制，就成了 0.30000000000000004。

 

解決方案

方案一：若是有精度要求，能夠用toFixed方法處理

var num1 = 0.1; 
var num2 = 0.2; 
alert( parseFloat((num1 + num2).toFixed(2)) === 0.30 );

 

方案二：通用處理方案：把須要計算的數字乘以 10 的 n 次冪，換算成計算機可以精確識別的整數，而後再除以 10 的 n 次冪

formatNum = function(f, digit) { 
    var m = Math.pow(10, digit); 
    return parseInt(f * m, 10) / m; 
} 
var num1 = 0.1; 
var num2 = 0.2;

alert(Math.formatFloat(num1 + num2, 1) === 0.3)

 

參考連接：http://www.javashuo.com/article/p-xgcobvif-em.html