浮點數的舍入處理

前言: 計算機在表示一個小數時,一般假定規格化前的數爲 P+g 位,P時有效位字長,g是有效位字長之後的的代碼長度. 比如說 0.xxxxx|010100 在這裏,紅的表示P, 綠的表示g, 1. 恆舍法 顧名思義,就是把綠的全部拋棄. 這樣處理好處很顯然,簡單嘛,不管三七二十一,扔了就完了.但是問題也很突出,就是精度有問題. 這種方法誤差是最大的,在精度有那麼一丟丟要求的地發都會被嫌棄. 2.恆

>>阅读原文<<