計算機基礎知識

1.爲什麼計算機進行小數運算的時候會出錯? 首先來看一下二進制數1011.0011轉化成10進制數的方式,如下圖所示。 該轉換方式同樣適用於16進制轉10進制。 小數運算出錯的原因在於,一些小數無法轉化成2進制,比如0.1就無法用2進製表示。 十進制數0.1轉換成二進制後,會變成0.00011001100…(1100循環)這樣的循環小數這和無法用十進制數來表示1/3是一樣的道理。1/3就是0.33
相關文章
相關標籤/搜索