計算機中的浮點數

寫這篇blog,是因爲在上工程碩士數學時候,又開始講到了浮點數的儲存,運算和精度的問題。這個問題已經見了好多次了,從微機原理的課到計算機視覺處理矩陣時候的conditioning,到這次。但感覺一直都沒有理清楚。所以這次嘗試梳理一下。 數在計算機中的存儲 一般主要分爲兩種形式,這裏以8位的存儲進行解釋: 定點數 定點數,很直觀地理解就是小數點是固定的,如 b 0 b 1 . b 2 b 3 b 4
相關文章
相關標籤/搜索