單精度,雙精度和精度(轉載)

浮點數是計算機上最經常使用的數據類型之一,有些語言甚至數值只有浮點型(Perl,Lua同窗別跑,說的就是你)。less 經常使用的浮點數有雙精度和單精度。除此以外,還有一種叫半精度的東東。分佈式 雙精度64位,單精度32位,半精度天然是16位了。學習 半精度是英偉達在2002年搞出來的,雙精度和單精度是爲了計算,而半精度更可能是爲了下降數據傳輸和存儲成本。.net 不少場景對於精度要求也沒那麼高,
相關文章
相關標籤/搜索