Javascript 浮點計算問題分析與解決

分析

JavaScript 只有一種數字類型 Number ,並且在Javascript中全部的數字都是以IEEE-754標準格式表示的。 浮點數的精度問題不是JavaScript特有的,由於有些小數以二進制表示位數是無窮的:git

十進制           二進制
0.1              0.0001100110011001100110011001100110011001100110011001101
0.2 0.001100110011001100110011001100110011001100110011001101
0.3 0.010011001100110011001100110011001100110011001100110011
0.4 0.01100110011001100110011001100110011001100110011001101
0.5 0.1
0.6 0.10011001100110011001100110011001100110011001100110011
0.7 0.1011001100110011001100110011001100110011001100110011
0.8 0.1100110011001100110011001100110011001100110011001101
0.9 0.11100110011001100110011001100110011001100110011001101

因此好比 1.1 ,其程序實際上沒法真正的表示 ‘1.1’,而只能作到必定程度上的準確,這是沒法避免的精度丟失:工具

1.09999999999999999

在JavaScript中問題還要複雜些,這裏只給一些在Chrome中測試數據:測試

 輸入               輸出
1.0-0.9 == 0.1     False
1.0-0.8 == 0.2     False
1.0-0.7 == 0.3     False
1.0-0.6 == 0.4     True
1.0-0.5 == 0.5     True
1.0-0.4 == 0.6     True
1.0-0.3 == 0.7     True
1.0-0.2 == 0.8     True
1.0-0.1 == 0.9     True

解決

那如何來避免這類 ` 1.0-0.9 != 0.1 ` 的非bug型問題發生呢?下面給出一種目前用的比較多的解決方案, 在判斷浮點運算結果前對計算結果進行精度縮小,由於在精度縮小的過程總會自動四捨五入:this

(1.0-0.9).toFixed(digits)     // toFixed() 精度參數須在 0 與20 之間
(1.0-0.9).toFixed(10)== 0.1   // 結果爲True
(1.0-0.8).toFixed(10)== 0.2   // 結果爲True
(1.0-0.7).toFixed(10)== 0.3   // 結果爲True
(11.0-11.8).toFixed(10) == -0.8   // 結果爲True

parseFloat((1.0-0.9).toFixed(10)) === 0.1   // 結果爲True
parseFloat((1.0-0.8).toFixed(10)) === 0.2   // 結果爲True
parseFloat((1.0-0.7).toFixed(10)) === 0.3   // 結果爲True
parseFloat((11.0-11.8).toFixed(10)) === -0.8   // 結果爲True

方法提煉

// 經過isEqual工具方法判斷數值是否相等
function isEqual(number1, number2, digits){
    digits = digits || 10; // 默認精度爲10
    return number1.toFixed(digits) === number2.toFixed(digits);
}

isEqual(1.0-0.7, 0.3);  // return true

// 原生擴展方式,更喜歡面向對象的風格
Number.prototype.isEqual = function(number, digits){
    digits = digits || 10; // 默認精度爲10
    return this.toFixed(digits) === number.toFixed(digits);
}

(1.0-0.7).isEqual(0.3); // return true
相關文章
相關標籤/搜索