浮點數精度丟失問題

原則:計算機內部所有的運算都是二進制運算,所以任意數據會首先被轉化爲二進制存儲。 在將10進制數轉化爲2進制數的時候,按照: 整數除二取餘,小數乘二取整 的原則進行轉換。 但是,大多數情況下,小數部分不能全部被消除,如: 0.152 = 0.3 0.32 = 0.6 0.62 = 1.2 1.22 = 2.4 2.42 = 4.8 4.82 = 9.6 9.6*2 = 19.2 …尾數循環。 按照
相關文章
相關標籤/搜索