ios中浮點數淺談

1.看圖說話,很奇怪,爲何我寫的浮點數變了,是否是程序出錯了?並非。緣由是計算機中存儲float和double數據時,整數和小數部分分別轉爲二進制表示blog

2.5,在內存中32位的存儲結果爲內存

1100 0000 0010 0000 0000 0000 0000 0000循環

但若是是2.6呢?小數部分會表示爲1001 1001 1001 1001 1001 1001 1001 1001,1001的無限循環,但存儲位數是有限的,超出部分不得不被捨棄掉,就形成了精度丟失!二進制

因此說浮點數是沒法精確表示大部分實數的。在遇到浮點數計算時必定要注意啊!float

相關文章
相關標籤/搜索