浮點型變量精度問題

在c語言中,單精度浮點型的精度爲7位有效數字,雙精度浮點型的精度爲16位有效數字,超過此有效數字的部分會被「四捨五入」,python decimal對象的精度能夠達到任意值(能夠很大,經過getcontext.prec = *來設置精度)。
python

相關文章
相關標籤/搜索