js浮點數計算失精原理

首先,我們知道js中的數字都是雙精度的浮點數,在進行計算時,計算機會把十進制數轉換成64位二進制,這個過程可能會導致精度丟失。 計算機存儲是按照IEEE754標準來把64位分成3個區域 十進制浮點數轉換成二進制,然後轉換成指數格式,由於尾數部分只能保留52位,第53位0舍1入,所以截取52位導致精度丟失。 以0.1和0.5爲例,0.1損失精度,0.5不損失精度 0.1轉換成二進制: 0.00011
相關文章
相關標籤/搜索