Mysql中的utf-8居然是假的!

最近遇到一個神奇的問題,在往數據庫中插入聊天表情的時候,離奇的報錯,個人客戶端、服務器、數據庫都是UTF-8 編碼的,因此應該不會出現問題。最終發現根本的緣由在於MySQL 的「utf8」實際上不是真正的 UTF-8。mysql

Mysql的utf-8的問題

MySQL 的「utf8」實際上不是真正的 UTF-8。「utf8」只支持每一個字符最多三個字節,而真正的 UTF-8 是每一個字符最多四個字節。MySQL 一直沒有修復這個 bug,他們在 2010 年發佈了一個叫做「utf8mb4」的字符集,繞過了這個問題。固然,他們並無對新的字符集廣而告之(多是由於這個 bug 讓他們以爲很尷尬),以至於如今網絡上仍然在建議開發者使用「utf8」,但這些建議都是錯誤的。
簡單歸納以下:
MySQL 的「utf8mb4」是真正的「UTF-8」。
MySQL 的「utf8」是一種「專屬的編碼」,它可以編碼的 Unicode 字符並很少。
我要在這裏澄清一下:全部在使用「utf8」的 MySQL 和 MariaDB 用戶都應該改用「utf8mb4」,永遠都不要再使用「utf8」。sql

產生問題的歷史緣由

爲何 MySQL 開發者會讓「utf8」失效?咱們或許能夠從提交日誌中尋找答案。
MySQL 從 4.1 版本開始支持 UTF-8,也就是 2003 年,而今天使用的 UTF-8 標準(RFC 3629)是隨後纔出現的。
舊版的 UTF-8 標準(RFC 2279)最多支持每一個字符 6 個字節。2002 年 3 月 28 日,MySQL 開發者在第一個 MySQL 4.1 預覽版中使用了 RFC 2279。
同年 9 月,他們對 MySQL 源代碼進行了一次調整:「UTF8 如今最多隻支持 3 個字節的序列」。
是誰提交了這些代碼?他爲何要這樣作?這個問題不得而知。在遷移到 Git 後(MySQL 最開始使用的是 BitKeeper),MySQL 代碼庫中的不少提交者的名字都丟失了。2003 年 9 月的郵件列表中也找不到能夠解釋這一變動的線索。
不過我能夠試着猜想一下。
2002 年,MySQL 作出了一個決定:若是用戶能夠保證數據表的每一行都使用相同的字節數,那麼 MySQL 就能夠在性能方面來一個大提高。爲此,用戶須要將文本列定義爲「CHAR」,每一個「CHAR」列老是擁有相同數量的字符。若是插入的字符少於定義的數量,MySQL 就會在後面填充空格,若是插入的字符超過了定義的數量,後面超出部分會被截斷。
MySQL 開發者在最開始嘗試 UTF-8 時使用了每一個字符 6 個字節,CHAR(1) 使用 6 個字節,CHAR(2) 使用 12 個字節,並以此類推。
應該說,他們最初的行爲纔是正確的,惋惜這一版本一直沒有發佈。可是文檔上卻這麼寫了,並且廣爲流傳,全部瞭解 UTF-8 的人都認同文檔裏寫的東西。
不過很顯然,MySQL 開發者或廠商擔憂會有用戶作這兩件事:
(1)使用 CHAR 定義列(在如今看來,CHAR 已是老古董了,但在那時,在 MySQL 中使用 CHAR 會更快,不過從 2005 年之後就不是這樣子了)。
(2)將 CHAR 列的編碼設置爲「utf8」。
個人猜想是 MySQL 開發者原本想幫助那些但願在空間和速度上共贏的用戶,但他們搞砸了「utf8」編碼。
因此結果就是沒有贏家。那些但願在空間和速度上共贏的用戶,當他們在使用「utf8」的 CHAR 列時,實際上使用的空間比預期的更大,速度也比預期的慢。而想要正確性的用戶,當他們使用「utf8」編碼時,卻沒法保存像「」這樣的字符。
在這個不合法的字符集發佈了以後,MySQL 就沒法修復它,由於這樣須要要求全部用戶從新構建他們的數據庫。最終,MySQL 在 2010 年從新發布了「utf8mb4」來支持真正的 UTF-8。數據庫

相關文章
相關標籤/搜索