Group by隱式排序,一個優美的BUG

  你在使用MySQL的Group by分組時,是否發現分組後的數據都是有序的?其實,在MySQL8.0版本前,優化器在分組查詢時都會進行隱式排序。那既然隱式排序爲何還要保留Order by?隱式排序的目的又是什麼呢?讓咱們一塊兒來看看。mysql

 

1、背景小故事

  年前咱們換了領導。俗話說,新官上任幹總愛幹傻事兒,這不,領導要擁抱新事物,要求咱們更新項目MySQL版本,從MySQL5.7更新到MySQL8.0。不知是MySQL5.7不香了,仍是領導你眼光高了?算法

  我把這個任務交給同事小王,小王不覺得然,說換就換。遷完庫,在代碼基本不改的狀況下自信上線。上線後卻發現本來一些有序的列表變無序了,最後臨時回退了版本。sql

在這裏插入圖片描述

  覈對代碼時咱們發現,老版本Select語句中只是用到了Group by分組,也沒有用到order by排序,有點蒙,爲啥沒用order by卻排了序?查資料後得知,在MySQL8.0版本前是存在Group by隱式排序的! 就是說在咱們使用分組(Group by)時,如:select * from T group by appName; 會默認按照appName正序排序,至關於select * from T group by appName order by appName;,倒排同理:select * from T group by appName desc; 可見,MySQL在8.0版本前的分組查詢中,偷偷加上了排序操做。數據庫

  納尼?MySQL還有這種操做?快找一下官方文檔對Group by隱式排序的介紹:app

官方文檔

官方文檔MySQL 5.7 Reference Manual中的「2.1.14 ORDER BY Optimization」章節有以下介紹:ide

GROUP BY implicitly sorts by default (that is, in the absence of ASC or DESC designators for GROUP BY columns). However, relying on implicit GROUP BY sorting (that is, sorting in the absence of ASC or DESC designators) or explicit sorting for GROUP BY (that is, by using explicit ASC or DESC designators for GROUP BY columns) is deprecated. To produce a given sort order, provide an ORDER BY clause.測試

google翻譯:默認狀況下GROUP BY隱式排序(即,缺乏GROUP BY列的ASC或DESC指示符)。可是,不推薦依賴於隱式GROUP BY排序(即,在沒有ASC或DESC指示符的狀況下排序)或GROUP BY的顯式排序(即,經過對GROUP BY列使用顯式ASC或DESC指示符)。要生成給定的排序 ORDER,請提供ORDER BY子句。優化

  從MySQL 8.0開始,GROUP BY字段再也不支持隱式排序. 官方文檔MySQL 8.0 Reference Manual中「8.2.1.16 ORDER BY Optimization」章節有以下介紹:google

Previously (MySQL 5.7 and lower), GROUP BY sorted implicitly under certain conditions. In MySQL 8.0, that no longer occurs, so specifying ORDER BY NULL at the end to suppress implicit sorting (as was done previously) is no longer necessary. However, query results may differ from previous MySQL versions. To produce a given sort order, provide an ORDER BY clause.spa

google翻譯:之前(MySQL 5.7及更低版本),GROUP BY在某些條件下隱式排序。 在MySQL 8.0中,再也不發生這種狀況,所以再也不須要在末尾指定ORDER BY NULL來抑制隱式排序(如前所述)。 可是,查詢結果可能與之前的MySQL版本不一樣。 要產生給定的排序順序,請提供ORDER BY子句

陳哈哈:「哦,這麼看來開發老版本的同事是沒用Order by,直接用了隱式排序。年輕人,不講武德啊!!」 小王(小聲):「哈哥,這模塊以前好像是你負責的。」 陳哈哈(老臉一紅):??? 陳哈哈:「咳咳,這MySQL8.0團隊不講武德,給我挖坑!」

在這裏插入圖片描述

好了,接下來咱們用測試數據演示一下

數據測試

下面是表T測試數據,無序

mysql> SELECT pid,appName from T;    
+--------+-------------------------+
| pid    | appName                 |
+--------+-------------------------+
|      1 |  Dock Sound Redirector  |
|      2 |  Blues Music station    |
|      3 |  usb tether TRIAL       |
|      4 |  Il vero test del QI    |
|      5 |  FlightTime Calculator  |
|      6 |  ZX Spectrum Emulator   |
|      7 |  The City Dress Up      |
+--------+-------------------------+
7 rows in set (0.00 sec)

實驗1:(MySQL版本:5.7.24)

-- 隱式排序
mysql> SELECT pid,appName from T group by appName;    
+--------+-------------------------+
| pid    | appName                 |
+--------+-------------------------+
|      2 |  Blues Music station    |
|      1 |  Dock Sound Redirector  |
|      5 |  FlightTime Calculator  |
|      4 |  Il vero test del QI    |
|      7 |  The City Dress Up      |
|      3 |  usb tether TRIAL       |
|      6 |  ZX Spectrum Emulator   |
+--------+-------------------------+
7 rows in set (0.00 sec)

-- 如上述隱式排序,至關於SELECT pid,appName from T group by appName asc 或 SELECT pid,appName from T group by appName order by appName asc;

-- 顯式排序,至關於SELECT pid,appName from T group by appName order by appName desc;
mysql> SELECT pid,appName from T group by appName desc;    
+--------+-------------------------+
| pid    | appName                 |
+--------+-------------------------+
|      6 |  ZX Spectrum Emulator   |
|      3 |  usb tether TRIAL       |
|      7 |  The City Dress Up      |
|      4 |  Il vero test del QI    |
|      5 |  FlightTime Calculator  |
|      1 |  Dock Sound Redirector  |
|      2 |  Blues Music station    |
+--------+-------------------------+
7 rows in set (0.00 sec)

實驗2:(MySQL版本:8.0.16)

mysql> SELECT pid,appName from T group by appName;    
+--------+-------------------------+
| pid    | appName                 |
+--------+-------------------------+
|      1 |  Dock Sound Redirector  |
|      2 |  Blues Music station    |
|      3 |  usb tether TRIAL       |
|      4 |  Il vero test del QI    |
|      5 |  FlightTime Calculator  |
|      6 |  ZX Spectrum Emulator   |
|      7 |  The City Dress Up      |
+--------+-------------------------+
7 rows in set (0.00 sec)

mysql> SELECT pid,appName from T group by appName DESC;
ERROR 1064 (42000): You have an error in your SQL syntax; check the manual that corresponds to your MySQL server version for the right syntax to use near 'DESC' at line 1

  如上所示,在MySQL 8.0中,GROUP BY隱式排序不支持了,上面測試例子是無序的。GROUP BY顯示排序則直接報錯。因此若是有數據庫從MySQL 5.7或以前的版本,遷移升級到MySQL 8的話,就須要特別留意這個問題了。

2、隱式排序 - 起源(一個優美的BUG)

  最初爲何要用隱式排序呢?咱們知道,要對一組數據進行分組,MySQL優化器會選擇不一樣的方法。其中最有效的一種是分組以前對數據排序,下降數據複雜度,使得連續分組變得很容易。另外,若是能夠Group by 一個索引字段來用於獲取排序的數據,那麼使用它的成本就很是低了(由於BTree索引是自然有序的)。而在實際操做中,Group by用到索引的頻率很高。這麼看,這確實是個很棒的主意!也能夠說是留了一個優美的BUG

  以下查詢語句,用到了appName_idx索引,所以group by查詢不須要排序,直接分組,高效。

-- 有索引:appName_idx
mysql> EXPLAIN SELECT appName from 0122_csj_demo GROUP BY appName \G
*************************** 1. row ***************************
           id: 1
  select_type: SIMPLE
        table: 0122_csj_demo
   partitions: NULL
         type: index
possible_keys: appName_idx
          key: appName_idx
      key_len: 515
          ref: NULL
         rows: 28
     filtered: 100.00
        Extra: Using index
1 row in set, 1 warning (0.00 sec)

  若是沒有索引,MySQL優化器仍然能夠決定在分組以前用外部臨時表進行filesort排序,從效率上講,和無序分組差很少。當用戶指定Order by時,是MySQL最但願看到的,這樣就不會讓排序工做白費,這也是讓MySQL團隊始終默認隱式排序存在的緣由之一。

mysql> EXPLAIN SELECT appName from 0122_csj_demo GROUP BY appName \G
*************************** 1. row ***************************
           id: 1
  select_type: SIMPLE
        table: 0122_csj_demo
   partitions: NULL
         type: ALL
possible_keys: NULL
          key: NULL
      key_len: NULL
          ref: NULL
         rows: 28
     filtered: 100.00
        Extra: Using temporary; Using filesort
1 row in set, 1 warning (0.00 sec)

  另外,用戶能夠顯式指定ORDER BY NULL就能讓MySQL知道GROUP BY不須要排序。所以須要一個非標準(ORDER BY NULL)語法來抵消另外一個非標準擴展(GROUP BY 排序)的影響。

mysql> EXPLAIN SELECT appName from 0122_csj_demo GROUP BY appName ORDER BY null \G
*************************** 1. row ***************************
           id: 1
  select_type: SIMPLE
        table: 0122_csj_demo
   partitions: NULL
         type: ALL
possible_keys: NULL
          key: NULL
      key_len: NULL
          ref: NULL
         rows: 28
     filtered: 100.00
        Extra: Using temporary
1 row in set, 1 warning (0.00 sec)

3、隱式排序 - 宿命

  爲了解決這個優美的BUG,MySQL團隊在8.0版本引入了倒排索引。正負向索引排序的優化思路,給隱式排序體面的落下帷幕。自此Group by隱式排序功能被刪除,分組排序必須用order by來進行,分組的算法依然能夠基於正負向索引延續以前分組的高效性。

  好了,本文到此基本結束,隱式排序算是MySQL角落裏較冷門的知識點,對我來講倒是一位結識四年的舊友了。北漂四年,時光匆匆,從初識MySQL的寸步難行,到深刻理解各知識點的實現思路,也算順道吃了杯隱排的踐行酒。

  莫泊桑說:"生活可能不像你想象的那麼好,可是,也不會你想象的那麼糟"。人的脆弱和堅強都超乎了本身的想,有時候可能脆弱的一句話,就淚流滿面。有時候你會發現,本身咬着牙走過很長的一段路。 在外漂泊打工人不易,爲了家人父母過上好日子,加油!

在這裏插入圖片描述

相關文章
相關標籤/搜索