浮點數的原理簡析

1. 存儲格式   我平時在寫浮點數相關的代碼時,常常會用一些好笑的技巧來「規避」浮點數運算致使的隨機偏差,浮點數運算細節晦澀難懂,我確實一直對浮點數原理及其運算只知其一;不知其二,寫起代碼來戰戰兢兢,本文參考劉純根所著的《浮點計算——編程原理、實現與應用》,把浮點數的原理簡單梳理一遍(主要以float爲例),做爲筆記,以備查驗。html   IEEE754標準規定,浮點數由「符號」、「指數」和「
相關文章
相關標籤/搜索