python之decimal模塊

在python中小數相加可能會計算出結果不對,如下,爲什麼呢?,那就是由於科學計算精度問題 我們在python中如果需要處理這個問題的話就需要用到decimal模塊了 但這個地方有個坑,那就是Decimal(),括號裏面必須是字符串,假如我們需要通過Decimal計算的話就需要將數值轉換成字符串或者直接加上引號 還可以通過decimal裏面的getcontext().prec 設定有效數字,如下
相關文章
相關標籤/搜索