15 張圖帶你深刻理解浮點數

點擊上方藍色「polarisxu」關注我，設個星標，不會讓你失望

你們好，我是站長 polarisxu。

團隊一直保持着分享的習慣，而我卻分享的較少。忘了當時同事分享什麼主題，涉及到浮點數相關知識。因而我決定分享一期關於浮點數的，並且 Go 之父 Rob Pike 說不懂浮點數不配當碼農。。。So？！

本着「要學習就係統透徹的學」這個原則，本文經過圖的方式儘量詳細的講解浮點數，讓你們可以對浮點數有一個更深層次的認識。

本文目錄：

0、幾個問題

開始以前請思考以下問題：

• 二進制 0.1，用十進制表示的話是多少？十進制的 0.1，用二進制表示又是多少？
• 爲何 0.1 + 0.2 = 0.30000000000000004？
• 單精度和雙精度浮點數的有效小數位分別是多少？
• 單精度浮點數能表示的範圍是什麼？
• 浮點數爲何會存在 -0？infinity 和 NaN 又是怎麼表示的？

若是如今不會，那這篇文章正好能夠爲你解惑。

一、什麼是浮點數

咱們知道，數學中並無浮點數的概念，雖然小數看起來像浮點數，但從不這麼叫。那爲何計算機中不叫小數而叫浮點數呢？

由於資源的限制，數學中的小數沒法直接在計算機中準確表示。爲了更好地表示它，計算機科學家們發明了浮點數，這是對小數的近似表示。維基百科中關於浮點數的概念說明以下：

The term floating point refers to the fact that a number's radix point (decimal point, or, more commonly in computers, binary point) can float; that is, it can be placed anywhere relative to the significant digits of the number.

也就是說浮點數是相對於定點數而言的，表示小數點位置是浮動的。好比 7.5 × 十、0.75 × 10² 等表示法，值同樣，但小數點位置不同。

具體來講，浮點數是指用符號、尾數、基數和指數這四部分來表示的小數。

二、IEEE754 又是什麼

知道了浮點數的概念，但須要肯定一套具體的表示、運算標準。其中最有名的就是 IEEE754 標準。William Kahan 正是由於浮點數標準化的工做得到了圖靈獎。

The IEEE Standard for Floating-Point Arithmetic (IEEE 754) is a technical standard for floating-point arithmetic established in 1985 by the Institute of Electrical and Electronics Engineers (IEEE). The standard addressed many problems found in the diverse floating-point implementations that made them difficult to use reliably and portably. Many hardware floating-point units use the IEEE 754 standard.

本文的討論都基於 IEEE754 標準，這也是目前各大編程語言和硬件使用的標準。

根據上面浮點數的組成，由於是在計算機中表示浮點數，基數天然是 2，所以 IEEE754 浮點數只關注符號、尾數和指數三部分。

三、小數的二進制和十進制轉換

爲了方便後面的內容順利進行，複習下二進制和十進制的轉換，其中主要涉及到小數的轉換。

二進制轉十進制

和整數轉換同樣，採用各位數值和位權相乘。好比：

(0.101)₂ = 1×2⁻¹ + 0×2⁻² + 0×2⁻³ = (0.625)₁₀

記住小數點後第一位是從 -1 開始便可。

十進制轉二進制

十進制整數轉二進制採用「除 2 取餘，逆序排列」法。例如十進制數 11 轉爲二進制：

11/2=5 … 餘1
5/2=2  … 餘1
2/2=1  … 餘0
1/2=0  … 餘1

因此 (11)₁₀ 的二進制是 (1011)₂。

但若是十進制是小數，轉爲二進制小數如何作？採用「乘 2 取整，順序排列」。例如十進制小數 0.625 轉爲二進制小數：

0.625*2=1.25 … 取整數部分1
0.25*2=0.5   … 取整數部分0
0.5*2=1    … 取整數部分1

順序排列，因此 (0.625)₁₀ = (0.101)₂。

爲了方便你們快速的作轉換，網上有不少這樣的工具。推薦一個我以爲最棒的：https://baseconvert.com/，支持各進制的轉換，還支持浮點數。

四、經典問題：0.1 + 0.2 = 0.30000000000000004

這個問題網上相關的討論不少，甚至有專門的一個網站：https://0.30000000000000004.com/，這個網站上有各門語言的 0.1 + 0.2 的結果。好比 C 語言：

#include <stdio.h>

int main(int argc, char** argv) {
  printf("%.17f\n", .1 + .2);
  return 0;
}

Go 語言：

package main

import (
 "fmt"
)

func main() {
 var a, b float64 = 0.1, 0.2
 fmt.Println(a + b)
}

結果都是 0.30000000000000004。

爲何會這樣？這要回到 IEEE754 標準關於浮點數的規定。

五、浮點數的 IEEE754 表示

上文提到，浮點數由四個部分構成，那 IEEE754 標準是如何規定它們的存儲方式的呢？

通常地，IEEE754 浮點數有兩種類型：單精度浮點數（float）和雙精度浮點數（double），還有其餘的，不經常使用。單精度浮點數使用 4 字節表示；雙精度浮點數使用 8 字節表示。在 Go 語言中用 float32 和 float64 表示這兩種類型。

符號位不用說，0 表示正數，1 表示負數。着重看指數部分和尾數部分。（基數前文說了，固定是 2，所以不存）

尾數部分

前面提到過，浮點數名稱的由來在於小數點是浮動的。但具體存儲時，須要固定一種形式，這叫作尾數的標準化。IEEE754 規定，在二進制數中，經過移位，將小數點前面的值固定爲 1。IEEE754 稱這種形式的浮點數爲規範化浮點數（normal number）。

好比十進制數 0.15625，轉爲二進制是 0.00101。爲了讓第 1 位爲 1，執行邏輯右移 3 位，尾數部分紅爲 1.01，由於右移了 3 位，因此指數部分是 -3。由於規定第 1 位永遠爲 1，所以能夠省略不存，這樣尾數部分多了 1 位，只需存 0100（要記住，這是的數字是小數點後的數字，所以實際是 0.01，轉爲十進制是 0.25 — 沒算未存的小數點前面的 1）。

所以對於規範化浮點數，尾數其實比實際的多 1 位，也就是說單精度的是 24 位，雙精度是 53 位。爲了做區分，IEEE754 稱這種尾數爲 significand。

有規範化浮點數，天然會有非規範化浮點數（denormal number），這會在後文講解。

請牢記，尾數決定了精度，對於單精度浮點數，由於只有 23 位，而 1<<23 對應十進制是 8388608，所以不能完整表示所有的 7 個十進制位，因此說，單精度浮點數有效小數位最多 7 位；雙精度的有效小數位是 15 位；切記切記，有精度問題！！

指數部分

由於指數有正、有負，爲了不使用符號位，同時方便比較、排序，指數部分採用了 The Biased exponent（有偏指數）。IEEE754 規定，2ᵉ⁻¹-1 的值是 0，其中 e 表示指數部分的位數，小於這個值表示負數，大於這個值表示正數。所以，對於單精度浮點數而言， 2⁸⁻¹-1 = 127 是 0；雙精度浮點數，2¹¹⁻¹-1 = 1023 是 0。

沒看懂？舉個栗子。

仍是用十進制 0.15625 舉例。上文知道，由於右移了 3 位，因此指數是 -3。根據 IEEE754 的定義，單精度浮點數狀況下，-3 的實際值是 127 - 3 = 124。明白了嗎？127 表示 0，124 就表示 -3 了。而十進制的 124 轉爲二進制就是 1111100。

若是你還不理解，想一想這個問題。

若是讓你用撲克牌（A ~ K，也就是 1 ~ 13）來表示支持負數的。怎麼辦？咱們會選擇一箇中間的數，好比 7 當作 0，所以 10 就是 +3，4 就是 -3。如今理解了吧！

小結

結合尾數和指數的規定，IEEE754 單精度浮點數，十進制 0.15625 對應的二進制內存表示是：0 01111100 01000000000000000000000。

六、程序確認下 IEEE754 的如上規定

讀到這裏，但願你能堅持下去。爲了進一步加深理解，我畫一張圖和一個確認程序。

一張圖

這張圖是單精度浮點數 0.15625 的內存存儲表示。根據三部分的二進制表示，能夠反推出計算該數的十進制表示。做爲練習，十進制的 2.75，用上圖表示的話，各個位置分別都是什麼值呢？

程序確認單精度浮點數的內存表示

使用 Go 語言編寫一個程序，可以獲得一個單精度浮點數的二進制內存表示。好比提供單精度浮點數 0.15625，該程序可以輸出：0-01111100-01000000000000000000000。

package main

import (
 "fmt"
 "math"
)

func main() {
 var f float32 = 0.15625
 outputFEEE754(f)
}

func outputFEEE754(f float32) {
 // 將該浮點數內存佈局當作 uint32 看待（由於都佔用 4 字節）
 // 這裏其實是作強制轉換，內部實現是：return *(*uint32)(unsafe.Pointer(&f))
 buf := math.Float32bits(f)

 // 加上兩處 -，結果一共 34 byte
 var result [34]byte

 // 從低字節開始
 for i := 33; i >= 0; i-- {
  if i == 1 || i == 10 {
   result[i] = '-'
  } else {
   if buf%2 == 1 {
    result[i] = '1'
   } else {
    result[i] = '0'
   }
   buf /= 2
  }
 }

 fmt.Printf("%s\n", result)
}

// output: 0-01111100-01000000000000000000000

你可使用上述程序，驗證下 2.75，看看你作對沒有！提供了一個在線可運行版本：https://play.studygolang.com/p/pg0QNQtBHYx。

其實上面推薦的那個工具就可以獲得十進制浮點數的二進制內存表示，地址：https://baseconvert.com/ieee-754-floating-point。

另外，在 Java 語言中也有相似的方法：Float.floatToIntBits()，你可使用 Java 實現上面相似的功能。

六、再看 0.1+0.2 = 0.30000000000000004

有了上面的知識，咱們回過頭看看這個經典的問題。（討論單精度的狀況，所以實際是 0.1+0.2 = 0.300000004）

出錯的緣由

出現這種狀況的根本緣由是，有些十進制小數沒法轉換爲二進制數。以下圖：

在小數點後 4 位時，連續的二進制數，對應的十進制數倒是不連續的，所以只能增長位數來儘量近似的表示。

0.1 和 0.2 是如何表示的？

根據前面的講解，十進制 0.1 轉爲二進制小數，獲得的是 0.0001100… （重複1100）這樣一個循環二進制小數，使用 IEEE754 表示以下圖：

一樣的方法，0.2 用單精度浮點數表示是：0.20000000298023223876953125。因此，0.1 + 0.2 的結果是：0.300000004470348358154296875。

七、特殊值

耐心的讀者看到這裏，你真的很棒！但還沒完哦，繼續加油！

單精度浮點數的最大值

講解下一個知識點以前，請思考本文開始的一個問題：單精度浮點數的最大值是多少？

根據前面學到的知識，咱們很容易想到它的最大值的內存應該表示是這樣的。

即：01111111111111111111111111111111。然而咱們把這個值填入 https://baseconvert.com/ieee-754-floating-point 中，發現結果是這樣的：

什麼？NaN 是個什麼鬼？！我就是按照你上面講過的思考的。。。

別急，由於凡是都有特殊。如今就講講浮點數中的特殊值。

特殊值 infinity（無窮）

當指數位全是 1，尾數位全是 0 時，這樣的浮點數表示無窮。根據符號位，有正無窮和負無窮（+infinity 和 -infinity）。爲何須要無窮？由於計算機資源的限制，無法表示全部的數，當一個數超過了浮點數的表示範圍時，就能夠用 infinity 來表示。而數學中也有無窮的概念。

在 Go 語言中，經過 math 包的 func Inf(sign int) float64 函數能夠獲取到正負無窮。

在 Java 語言中，經過 Float 或 Double 類中的常量能夠得到：Float.POSITIVE_INFINITY、Float.NEGATIVE_INFINITY。

具體表示能夠定義一個常量，好比：

正無窮：0x7FF0000000000000，負無窮：0xFFF0000000000000

和上面浮點數內存位模型強轉 int 相似，這個執行相反操做（相似 Float64frombits 這樣的函數），就獲得了這個特殊的浮點值。能夠看 Go 語言 math 標準庫相應函數的實現。

特殊值 NaN

NaN 是 not-a-number 的縮寫，即不是一個數。爲何須要它？例如，當對 -1 進行開根號時，浮點數不知道如何進行計算，就會使用 NaN，表示不是一個數。

NaN 的具體內存表示是：指數位全是 1，尾數位不全是 0。

和 infinity 相似，Go 和 Java 都定義了相應的函數或常量。

小結

如今清楚上面單精度浮點數最大值是不對的了吧，它是一個 NaN。畫一張圖，方便你更清晰的記住這些特殊值。

因此單精度浮點數的最大值應該能確認了，即：0 11111110 11111111111111111111111。

八、非規範化浮點數

接着用問題的方式繼續：單精度浮點數的最小值是多少（正數）？

根據前面的知識，咱們會獲得這樣的最小值：0 00000000 00000000000000000000001。根據前面規範化浮點數的規定，咱們知曉該值是：2⁻¹²⁷×(1+2⁻²³)。

然而，最小值的內存表示沒錯，但算出來的結果是錯的。（額頭冒汗沒？怎麼又錯了~）

爲了不兩個小浮點數相減結果是 0（也就是規範化浮點數沒法表示）這樣狀況出現，同時根據規範化浮點數的定義，由於尾數部分有一個省略的前導 1，所以沒法表示 0。因此，IEEE754 規定了另一種浮點數：

當指數位全是 0，尾數部分不全爲 0，尾數部分沒有省略的前導 1，同時指數部分的偏移值比規範形式的偏移值小 1，即單精度是 -126，雙精度是 -2046。這種形式的浮點數叫非規範化浮點數（denormal number）。

所以單精度浮點數的最小值（正數）以下圖：

有了非規範化浮點數，IEEE754 就能夠表示 0 了，但會存在 +0 和 -0：即全部位全是 0 時是 +0；符號位是 1，其餘位是 0 時是 -0。

九、IEEE754 浮點數分類小結

至此，浮點數相關的知識就介紹差很少了。爲了讓你們對總體再有一個更好的掌握，對浮點數的分類進行一些總結。

從上面的講解，IEEE754 浮點數，指數是關鍵，根據指數，將其分爲：特殊值、非規範化浮點數和規範化浮點數。

從上圖規範化和非規範化浮點數的表示範圍能夠看出，兩種類型的表示是具備連續性的。這也就是爲何非規範化浮點數指數規定爲比規範形式的偏移值小 1（即單精度爲 -126，雙精度爲 -2046）。

在數軸上，浮點數的分佈：

十、總結

《深刻理解計算機系統》這本書在講解浮點數時說：許多程序員認爲浮點數沒意思，往壞了說，深奧難懂。通過本文的四千多字圖文並茂的方式講解，若是你認真看完了，我相信你必定掌握了浮點數。

此外，還有其餘一些知識點，好比浮點數的運算、不知足結合律、四舍但五不必定入等，有興趣的能夠查閱相關資料。

如今是時候回過頭來看看開始的題目了，你都會了嗎？

最後，建議你結合你熟悉的語言更進一步補充相關知識。好比 Go 語言的 math 標準庫；Java 的 java.lang.Float/Double 等包。

參考資料或相關連接

• https://floating-point-gui.de/
• https://www.geeksforgeeks.org/ieee-standard-754-floating-point-numbers/
• https://baseconvert.com/
• 這個交互式工具，很不錯：http://evanw.github.io/float-toy/
• https://bartaz.github.io/ieee754-visualization/
• 柴大：https://mp.weixin.qq.com/s/0lCte3UD5qYcaBnebwnYrQ
• 左神：https://mp.weixin.qq.com/s/QsEe34pcimNdqCb99h44cQ
• 圖書《程序是怎樣跑起來的》

• 推薦閱讀

   

  一、深刻揭祕前端路由本質，手寫 mini-router

  二、TypeScript 練習題

  三、尤大 3 天前發在 GitHub 上的 vue-lit 是啥？

  四、字節跳動的算法面試題是什麼難度？

   

  若是以爲文章不錯，幫忙點個在看唄