浮點運算爲什麼不準?有人爲0.30000000000000004建了個網站

浮點運算一直非常玄學。 任何一個學過小數點運算的擁有小學數學水平的人,都應該知道 1.0-0.9=0.1。然而當你把這個問題拋給可以計算出圓周率小數點後上百位、擁有超強算力的計算機的時候,結果總是非常迷。 你會發現,使用double或者float得出的計算結果,總是跟我們的預期有一點點差距,這就使得浮點運算容易讓人覺得「不精確」。 實際上,因爲我們人類理解的數字是十進制,而計算機理解的數字是二進制
相關文章
相關標籤/搜索