double類型精度損失問題

在十進制中小數有些是沒法完整用二進制表示的。它們只能用有限位來表示，從而在存儲時可能就會有偏差。十進制的小數採用乘2取整法進行計算，去掉整數部分後，剩下的小數繼續乘以2,直到小數部分全爲0.c++ 有的小數可能取不到零就會一直循環spa 0.9*2=1.8…...取整1code 0.8*2=1.6…...取整1it 0.6*2=1.2…...取整1class 0.2*2=0.4.…..取整0軟件

>>阅读原文<<