[轉]浮點運算decimal.js

開發過程當中免不了有浮點運算,JavaScript浮點運算的精度問題會帶來一些困擾git

 JavaScript 只有一種數字類型 ( Number )github

 JavaScript採用 IEEE 754 標準雙精度浮點(64),64位中 1位浮點數中符號,11存儲指數,52位存儲浮點數的有效數字npm

 有時候小數在二進制中表示是無限的,因此從53位開始就會舍入(舍入規則是0舍1入),這樣就形成了「浮點精度問題」(因爲舍入規則有時大點,有時小點)spa

 

 下面用示例來看看.net

JavaScript加減乘除運算

  加法code

 

  add.js 示例代碼

  示例: 0.1 + 0.2 blog

  預期結果:0.3ip

  實際結果:0.30000000000000004ci

 

 減法開發

 

  sub.js示例代碼

  示例: 1.0 - 0.7 

  預期結果:0.3

  實際結果:0.30000000000000004

 

 乘法

  

  mul.js示例代碼

  示例: 1.01 * 1.003

  預期結果:1.01303

  實際結果:1.0130299999999999

 

 除法

 

  div.js示例代碼

  示例: 0.029 / 10

  預期結果:0.0029

  實際結果:0.0029000000000000002

 

說明:以上加、減、乘、除示例分別演示了JavaScript運算結果(固然實際結果並非咱們想要的),爲何會出現這樣的結果,前言中已經說明^_^!

decimal.js加減乘除運算

An arbitrary-precision Decimal type for JavaScript

 

      GITHUB:  https://github.com/MikeMcl/decimal.js

      API:  http://mikemcl.github.io/decimal.js/

      NPM:  https://www.npmjs.com/package/decimal.js

 

 先安裝decimal.js

npm install --save decimal.js

 把上面的示例,用decimal.js運算一次,對比一下結果

 

轉自:https://blog.csdn.net/qq3401247010/article/details/78784788

相關文章
相關標籤/搜索