JS數字計算精度偏差的解決方法

本篇文章主要是對javascript避免數字計算精度偏差的方法進行了介紹,須要的朋友能夠過來參考下,但願對你們有所幫助。javascript

 

若是我問你 0.1 + 0.2 等於幾?你可能會送我一個白眼,0.1 + 0.2 = 0.3 啊,那還用問嗎?連幼兒園的小朋友都會回答這麼小兒科的問題了。可是你知道嗎,一樣的問題放在編程語言中,或許就不是想象中那麼簡單的事兒了。java

不信?咱們能夠作個試驗。git

先來看一段 JS。編程

var num1 = 0.1;
var num2 = 0.2;
alert(num1+num2 === '0.3');

執行結果是 false。沒錯,當我第一次看到這段代碼時,我也理所固然地覺得它是 true,可是執行結果讓我大跌眼鏡,是個人打開方式不對嗎?非也非也。咱們再執行如下代碼試試就知道結果爲何是 false 了。編程語言

var num1 = 0.1; 
var num2 = 0.2; 
alert( num1+numB );

原來,0.1 + 0.2 = 0.30000000000000004。是否是很奇葩?其實對於浮點數的四則運算,幾乎全部的編程語言都會有相似精度偏差的問題,只不過在 C++/C#/Java 這些語言中已經封裝好了方法來避免精度的問題,spa

而 JavaScript 是一門弱類型的語言,從設計思想上就沒有對浮點數有個嚴格的數據類型,因此精度偏差的問題就顯得格外突出。下面就分析下爲何會有這個精度偏差,以及怎樣修復這個偏差。設計

 

首先,咱們要站在計算機的角度思考 0.1 + 0.2 這個看似小兒科的問題。咱們知道,能被計算機讀懂的是二進制,而不是十進制,因此咱們先把 0.1 和 0.2 轉換成二進制看看:code

0.1==》0.1.toString(2)==》0.0001100110011(無限循環..)orm

0.2==》0.2.toString(2)==》0.001100110011(無限循環..)blog

雙精度浮點數的小數部分最多支持 52 位,因此二者相加以後獲得這麼一串 0.0100110011001100110011001100110011001100110011001100 因浮點數小數位的限制而截斷的二進制數字,這時候,咱們再把它轉換爲十進制,就成了 0.30000000000000004。

原來如此,那怎麼解決這個問題呢?我想要的結果就是 0.1 + 0.2 === 0.3 啊!!!

有種最簡單的解決方案,就是給出明確的精度要求,在返回值的過程當中,計算機會自動四捨五入,

好比:

var num1 = 0.1; 
var num2 = 0.2; 
alert( parseFloat((num1 + num2).toFixed(2)) === 0.30 );

可是四捨五入明顯不是一勞永逸的辦法。

若是有一個方法能幫咱們解決這些浮點數的精度問題,那該多好!因此,咱們就本身寫一個方法。

咱們來試試下面這個方法:

formatNum = function(f, digit) { 
    var m = Math.pow(10, digit); 
    return parseInt(f * m, 10) / m; 
} 

 var num1 = 0.1; 
 var num2 = 0.2;

 alert(formatNum(num1 + num2, 1) === 0.3);

這個方法是什麼意思呢?

爲了不產生精度差別,咱們要把須要計算的數字乘以 10 的 n 次冪,換算成計算機可以精確識別的整數,而後再除以 10 的 n 次冪,大部分編程語言都是這樣處理精度差別的,咱們就借用過來處理一下 JS 中的浮點數精度偏差。

因此若是下次再有人問你 0.1 + 0.2 等於幾,你可要當心回答咯!!

相關文章
相關標籤/搜索