浮點數是如何存儲的? 爲何 0.1+0.7 = 0.799999?

因爲計算機只認識0,1
在存儲浮點數的時候,須要通過必定的算法,這些算法致使浮點數並不能精確表示; 下面的一些學習資源介紹了這些內容,能夠看成一個入門的文章來看看;算法

百度搜索工具

  1. 浮點數存儲
  2. 浮點數 計算 精度問題

進制轉換工具

https://tool.oschina.net/hexc...學習

文章

https://blog.csdn.net/serena_...
image.pngspa

其餘

https://blog.csdn.net/hansiqi...
https://blog.csdn.net/qq_1613...
https://blog.csdn.net/u012671....net

相關文章
相關標籤/搜索