SQL優化之SQL 進階技巧(上)

因爲工做須要,最近作了不少 BI 取數的工做,須要用到一些比較高級的 SQL 技巧,總結了一下工做中用到的一些比較騷的進階技巧,特此記錄一下,以方便本身查閱,主要目錄以下:html

  • SQL 的書寫規範
  • SQL 的一些進階使用技巧
  • SQL 的優化方法

SQL 的書寫規範

在介紹一些技巧以前,有必要強調一下規範,這一點我發現工做中常常被人忽略,其實遵循好的規範可讀性會好不少,應該遵循哪些規範呢sql

一、 表名要有意義,且標準 SQL 中規定表名的第一個字符應該是字母。編程

二、註釋,有單行註釋和多行註釋,以下性能優化

-- 單行註釋
-- 從SomeTable中查詢col_1 
SELECT col_1
  FROM SomeTable;
/*
多行註釋
從 SomeTable 中查詢 col_1 
*/
SELECT col_1
  FROM SomeTable;

多行註釋不少人不知道,這種寫法不只能夠用來添加真正的註釋,也能夠用來註釋代碼,很是方便編程語言

三、縮進函數

就像寫 Java,Python 等編程語言同樣 ,SQL 也應該有縮進,良好的縮進對提高代碼的可讀性幫助很大,如下分別是好的縮進與壞的縮進示例post

性能

-- 好的縮進 SELECT col_1,      col_2,      col_3, COUNT(*)  FROM tbl_A WHERE col_1 = 'a' AND col_2 = ( SELECT MAX(col_2) FROM tbl_B WHERE col_3 = 100 ) GROUP BY col_1,           col_2,           col_3-- 壞的示例
SELECT col1_1, col_2, col_3, COUNT(*)
FROM   tbl_A
WHERE  col1_1 = 'a'
AND    col1_2 = (
SELECT MAX(col_2)
FROM   tbl_B
WHERE  col_3 = 100
) GROUP BY col_1, col_2, col_3

四、空格優化

代碼中應該適當留有一些空格,若是一點不留,代碼都湊到一塊兒, 邏輯單元不明確,閱讀的人也會產生額外的壓力,如下分別是是好的與壞的示例spa

-- 好的示例 SELECT col_1 FROM tbl_A A, tbl_B B WHERE ( A.col_1 >= 100 OR A.col_2 IN ( 'a', 'b' ) ) AND A.col_3 = B.col_3;-- 壞的示例
SELECT col_1
  FROM tbl_A A,tbl_B B
 WHERE (A.col_1>=100 OR A.col_2 IN ('a','b'))
   AND A.col_3=B.col_3;

四、大小寫

關鍵字使用大小寫,表名列名使用小寫,以下

SELECT col_1, col_2, col_3,
COUNT(*)
FROM tbl_A
WHERE col_1 = 'a'
AND col_2 = ( SELECT MAX(col_2)
FROM tbl_B
WHERE col_3 = 100 )
GROUP BY col_1, col_2, col_3

花了這麼多時間強調規範,有必要嗎,有!好的規範讓代碼的可讀性更好,更有利於團隊合做,以後的 SQL 示例都會遵循這些規範。

SQL 的一些進階使用技巧

1、巧用 CASE WHEN 進行統計

來看看如何巧用 CASE WHEN 進行定製化統計,假設咱們有以下的需求,但願根據左邊各個市的人口統計每一個省的人口

SQL 進階技巧(上)

使用 CASE WHEN 以下

SELECT CASE pref_name
WHEN '長沙' THEN '湖南'
WHEN '衡陽' THEN '湖南'
WHEN '海口' THEN '海南'
WHEN '三亞' THEN '海南'
ELSE '其餘' END AS district,
SUM(population) 
FROM PopTbl
GROUP BY district;

2、巧用 CASE WHEN 進行更新

如今某公司員人工資信息表以下:

SQL 進階技巧(上)

如今公司出臺了一個奇葩的規定

  1. 對當前工資爲 1 萬以上的員工,降薪 10%。
  2. 對當前工資低於 1 萬的員工,加薪 20%。

一些人不假思索可能寫出瞭如下的 SQL:

--條件1
UPDATE Salaries
SET salary = salary * 0.9 WHERE salary >= 10000;
--條件2
UPDATE Salaries
SET salary = salary * 1.2
WHERE salary < 10000;

這麼作實際上是有問題的, 什麼問題,對小明來講,他的工資是 10500,執行第一個 SQL 後,工資變爲 10500 * 0.9 = 9450, 緊接着又執行條件 2, 工資變爲了 9450 * 1.2 = 11340,反而漲薪了!

若是用 CASE WHEN 能夠解決此類問題,以下:

UPDATE Salaries
SET salary = CASE WHEN salary >= 10000 THEN salary * 0.9
WHEN salary < 10000 THEN salary * 1.2
ELSE salary END;

3、巧用 HAVING 子句

通常 HAVING 是與 GROUP BY 結合使用的,但其實它是能夠獨立使用的, 假設有以下表,第一列 seq 叫連續編號,但其實有些編號是缺失的,怎麼知道編號是否缺失呢,

SQL 進階技巧(上)

用 HAVING 表示以下:

SELECT '存在缺失的編號' AS gap
FROM SeqTbl
HAVING COUNT(*) <> MAX(seq);

4、自鏈接

針對相同的表進行的鏈接被稱爲「自鏈接」(self join),這個技巧經常被人們忽視,實際上是有挺多妙用的

一、刪除重複行

SQL 進階技巧(上)

上圖中有三個橘子,須要把這些重複的行給刪掉,用以下自鏈接能夠解決:

DELETE FROM Products P1
WHERE id < ( SELECT MAX(P2.id) 
FROM Products P2 
WHERE P1.name = P2.name 
AND P1.price = P2.price ); 

二、排序

在 db 中,咱們常常須要按分數,人數,銷售額等進行排名,有 Oracle, DB2 中可使用 RANK 函數進行排名,不過在 MySQL 中 RANK 函數未實現,這種狀況咱們可使用自鏈接來實現,如對如下 Products 表按價格高低進行排名

SQL 進階技巧(上)

使用自鏈接能夠這麼寫:

-- 排序從 1 開始。若是已出現相同位次,則跳過以後的位次 
SELECT P1.name,
       P1.price,
       (SELECT COUNT(P2.price)
FROM Products P2
WHERE P2.price > P1.price) + 1 AS rank_1
FROM Products P1 
ORDER BY rank_1;

結果以下:

name       price      rank 
-----      ------     ------ 
橘子     100     1 
西瓜     80     2 
蘋果     50     3 
葡萄     50     3 
香蕉     50     3 
檸檬     30     6

5、巧用 COALESCE 函數

此函數做用返回參數中的第一個非空表達式,假設有以下商品,咱們從新格式化同樣,若是 city 爲 null,表明商品不在此城市發行,但咱們在展現結果的時候不想展現 null,而想展現 'N/A', 能夠這麼作:

SELECT
COALESCE(city, 'N/A')
FROM
    customers;
SQL 進階技巧(上)

SQL 性能優化技巧

1、參數是子查詢時,使用 EXISTS 代替 IN

若是 IN 的參數是(1,2,3)這樣的值列表時,沒啥問題,但若是參數是子查詢時,就須要注意了。好比,如今有以下兩個表:

SQL 進階技巧(上)

如今咱們要查出同時存在於兩個表的員工,即田中和鈴木,則如下用 IN 和 EXISTS 返回的結果是同樣,可是用 EXISTS 的 SQL 會更快:

-- 慢
SELECT * 
FROM Class_A
WHERE id IN (SELECT id
FROM  CLASS_B);

-- 快
SELECT *
  FROM Class_A A 
 WHERE EXISTS
(SELECT * 
   FROM Class_B  B
  WHERE A.id = B.id);

 

爲啥使用 EXISTS 的 SQL 運行更快呢,有兩個緣由

  1. 能夠`用到索引,若是鏈接列 (id) 上創建了索引,那麼查詢 Class_B 時不用查實際的表,只需查索引就能夠了。
  2. 若是使用 EXISTS,那麼只要查到一行數據知足條件就會終止查詢, 不用像使用 IN 時同樣掃描全表。在這一點上 NOT EXISTS 也同樣

另外若是 IN 後面若是跟着的是子查詢,因爲 SQL 會先執行 IN 後面的子查詢,會將子查詢的結果保存在一張臨時的工做表裏(內聯視圖),而後掃描整個視圖,顯然掃描整個視圖這個工做不少時候是很是耗時的,而用 EXISTS 不會生成臨時表。

固然了,若是 IN 的參數是子查詢時,也能夠用鏈接來代替,以下:

-- 使用鏈接代替 IN SELECT A.id, A.name
FROM Class_A A INNER JOIN Class_B B ON A.id = B.id;

用到了 「id」列上的索引,並且因爲沒有子查詢,也不會生成臨時表

2、避免排序

SQL 是聲明式語言,即對用戶來講,只關心它能作什麼,不用關心它怎麼作。這樣可能會產生潛在的性能問題:排序,會產生排序的表明性運算有下面這些

  • GROUP BY 子句
  • ORDER BY 子句
  • 聚合函數(SUM、COUNT、AVG、MAX、MIN)
  • DISTINCT
  • 集合運算符(UNION、INTERSECT、EXCEPT)
  • 窗口函數(RANK、ROW_NUMBER 等)

若是在內存中排序還好,但若是內存不夠致使須要在硬盤上排序上的話,性能就會急劇降低,因此咱們須要減小沒必要要的排序。怎樣作能夠減小排序呢。

一、 使用集合運算符的 ALL 可選項

SQL 中有 UNION,INTERSECT,EXCEPT 三個集合運算符,默認狀況下,這些運算符會爲了不重複數據而進行排序,對比一下使用 UNION 運算符加和不加 ALL 的狀況:

SQL 進階技巧(上)

注意:加 ALL 是優化性能很是有效的手段,不過前提是不在意結果是否有重複數據。

二、使用 EXISTS 表明 DISTINCT

爲了排除重複數據, DISTINCT 也會對結果進行排序,若是須要對兩張表的鏈接結果進行去重,能夠考慮用 EXISTS 代替 DISTINCT,這樣能夠避免排序。

SQL 進階技巧(上)

如何找出有銷售記錄的商品,使用以下 DISTINCT 能夠:

SELECT DISTINCT I.item_no
FROM Items I INNER JOIN SalesHistory SH
ON I. item_no = SH. item_no;

不過更好的方式是使用 EXISTS:

SELECT item_no FROM Items I
WHERE EXISTS
        (SELECT *
FROM SalesHistory SH
WHERE I.item_no = SH.item_no);

既用到了索引,又避免了排序對性能的損耗。

3、在極值函數中使用索引(MAX/MIN)

使用 MAX/ MIN 都會對進行排序,若是參數字段上沒加索引會致使全表掃描,若是建有索引,則只須要掃描索引便可,對好比下

-- 這樣寫須要掃描全表 
SELECT MAX(item)
FROM Items;

-- 這樣寫能用到索引 
SELECT MAX(item_no)
  FROM Items;

注意:極值函數參數推薦爲索引列中並非不須要排序,而是優化了排序前的查找速度(畢竟索引自己就是有序排列的)。

4、能寫在 WHERE 子句裏的條件不要寫在 HAVING 子句裏

下列 SQL 語句返回的結果是同樣的:

-- 聚合後使用 HAVING 子句過濾
SELECT sale_date, SUM(quantity)
FROM SalesHistory GROUP BY sale_date
HAVING sale_date = '2007-10-01';

-- 聚合前使用 WHERE 子句過濾
SELECT sale_date, SUM(quantity)
  FROM SalesHistory
 WHERE sale_date = '2007-10-01' 
 GROUP BY sale_date;

使用第二條語句效率更高,緣由主要有兩點

  1. 使用 GROUP BY 子句進行聚合時會進行排序,若是事先經過 WHERE 子句能篩選出一部分行,能減輕排序的負擔
  2. 在 WHERE 子句中可使用索引,而 HAVING 子句是針對聚合後生成的視頻進行篩選的,但不少時候聚合後生成的視圖並無保留原表的索引結構

5、在 GROUP BY 子句和 ORDER BY 子句中使用索引

GROUP BY 子句和 ORDER BY 子句通常都會進行排序,以對行進行排列和替換,不過若是指定帶有索引的列做爲這二者的參數列,因爲用到了索引,能夠實現高速查詢,因爲索引是有序的,排序自己都會被省略掉

6、使用索引時,條件表達式的左側應該是原始字段

假設咱們在 col 列上創建了索引,則下面這些 SQL 語句沒法用到索引

SELECT *
FROM SomeTable
WHERE col * 1.1 > 100;

SELECT *
  FROM SomeTable
 WHERE SUBSTR(col, 1, 1) = 'a';

 

以上第一個 SQL 在索引列上進行了運算, 第二個 SQL 對索引列使用了函數,均沒法用到索引,正確方式是把列單獨放在左側,以下:

SELECT *
FROM SomeTable
WHERE col_1 > 100 / 1.1;

固然若是須要對此列使用函數,則沒法避免在左側運算,能夠考慮使用函數索引,不過通常不推薦隨意這麼作。

7、儘可能避免使用否認形式

以下的幾種否認形式不能用到索引:

  • <>
  • !=
  • NOT IN

因此如下 了SQL 語句會致使全表掃描

SELECT *
FROM SomeTable
WHERE col_1 <> 100;

能夠改爲如下形式

SELECT *
FROM SomeTable
WHERE col_1 > 100 or col_1 < 100;

8、進行默認的類型轉換

假設 col 是 char 類型,則推薦使用如下第二,三條 SQL 的寫法,不推薦第一條 SQL 的寫法

× SELECT * FROM SomeTable WHERE col_1 = 10;
○ SELECT * FROM SomeTable WHERE col_1 = '10';
○ SELECT * FROM SomeTable WHERE col_1 = CAST(10, AS CHAR(2));

雖然第一條 SQL 會默認把 10 轉成 '10',但這種默認類型轉換不只會增長額外的性能開銷,還會致使索引不可用,因此建議使用的時候進行類型轉換。

9、減小中間表

在 SQL 中,子查詢的結果會產生一張新表,不過若是不加限制大量使用中間表的話,會帶來兩個問題,一是展現數據須要消耗內存資源,二是原始表中的索引不容易用到,因此儘可能減小中間表也能夠提高性能。

10、靈活使用 HAVING 子句

這一點與上面第八條相呼應,對聚合結果指定篩選條件時,使用 HAVING 是基本的原則,可能一些工程師會傾向於使用下面這樣的寫法:

SELECT *
FROM (SELECT sale_date, MAX(quantity) AS max_qty
FROM SalesHistory 
GROUP BY sale_date) TMP
WHERE max_qty >= 10;

雖然上面這樣的寫法能達到目的,但會生成 TMP 這張臨時表,因此應該使用下面這樣的寫法:

SELECT sale_date, MAX(quantity) 
FROM SalesHistory
GROUP BY sale_date
HAVING MAX(quantity) >= 10;

HAVING 子句和聚合操做是同時執行的,因此比起生成中間表後再執行 HAVING 子句,效率會更高,代碼也更簡潔

十、須要對多個字段使用 IN 謂詞時,將它們彙總到一處

一個表的多個字段可能都使用了 IN 謂詞,以下:

SELECT id, state, city 
FROM Addresses1 A1
WHERE state IN (SELECT state
FROM Addresses2 A2
WHERE A1.id = A2.id) 
AND city IN (SELECT city
FROM Addresses2 A2 
WHERE A1.id = A2.id);

這段代碼用到了兩個子查詢,也就產生了兩個中間表,能夠像下面這樣寫

SELECT *
FROM Addresses1 A1
WHERE id || state || city
IN (SELECT id || state|| city
FROM Addresses2 A2);

這樣子查詢不用考慮關聯性,沒有中間表產生,並且只執行一次便可。

總結

本文一開始花了挺大的篇幅來說解 SQL 的規範,請你們務必重視這部份內部,良好的規範有利於團隊協做,對於代碼的閱讀也比較友好。

以後介紹了一些 SQL 的比較高級的用法,巧用這些技巧確實能達到事半功倍的效果,因爲本文篇幅有限只是介紹了一部分,下篇咱們會再介紹一些其餘的技巧,敬請期待哦

相關文章

SQL優化之SQL 進階技巧(下)

SQL優化之SELECT COUNT(*)

 
 
相關文章
相關標籤/搜索