python學習筆記:浮點數計算問題(20180920)

    python輸出過程:一個十進制數———以二進制形式(近似值)存儲到計算機———輸出該二進制近似值的十進制近似值 舉例:浮點數0.3的二進制表示 十進制小數轉二進制採用"乘2取整,順序排列"法。具體做法是:用2乘十進制小數,將積的整數部分取出,再用2乘餘下的小數部分,再將積的整數部分取出,如此循環,直到積中的小數部分爲零,此時0或1爲二進制的最後一位。或者達到所要求的精度爲止。然後把取出的
相關文章
相關標籤/搜索