今天看到一個博客園的一篇關於MySQL的IN子查詢優化的案例,
一開始感受有點半信半疑(若是是換作在SQL Server中,這種狀況是絕對不可能的,後面會作一個簡單的測試。)
隨後動手按照他說的作了一個表來測試驗證,發現MySQL的IN子查詢作的很差,確實會致使沒法使用索引的狀況(IN子查詢沒法使用因此,場景是MySQL,截止的版本是5.7.18)
sql
MySQL的測試環境ide
測試表以下oop
create table test_table2 ( id int auto_increment primary key, pay_id int, pay_time datetime, other_col varchar(100) )
建一個存儲過程插入測試數據,測試數據的特色是pay_id可重複,這裏在存儲過程處理成,循環插入300W條數據的過程當中,每隔100條數據插入一條重複的pay_id,時間字段在必定範圍內隨機sqlserver
CREATE DEFINER=`root`@`%` PROCEDURE `test_insert`(IN `loopcount` INT) LANGUAGE SQL NOT DETERMINISTIC CONTAINS SQL SQL SECURITY DEFINER COMMENT '' BEGIN declare cnt int; set cnt = 0; while cnt< loopcount do insert into test_table2 (pay_id,pay_time,other_col) values (cnt,date_add(now(), interval floor(300*rand()) day),uuid()); if (cnt mod 100 = 0) then insert into test_table2 (pay_id,pay_time,other_col) values (cnt,date_add(now(), interval floor(300*rand()) day),uuid()); end if; set cnt = cnt + 1; end while; END
執行 call test_insert(3000000); 插入303000行數據測試
兩種子查詢的寫法優化
查詢大概的意思是查詢某個時間段以內的業務Id大於1的數據,因而就出現兩種寫法。ui
第一種寫法以下:IN子查詢中是某段時間內業務統計行數大於1的業務Id,外層按照IN子查詢的結果進行查詢,業務Id的列pay_id上有索引,邏輯也比較簡單,
這種寫法,在數據量大的時候確實效率比較低,用不到索引spa
select * from test_table2 force index(idx_pay_id) where pay_id in ( select pay_id from test_table2 where pay_time>="2016-06-01 00:00:00" AND pay_time<="2017-07-03 12:59:59" group by pay_id having count(pay_id) > 1 );
執行結果:2.23秒3d
第二種寫法,與子查詢進行join關聯,這種寫法至關於上面的IN子查詢寫法,下面測試發現,效率確實有很多的提升code
select tpp1.* from test_table2 tpp1, ( select pay_id from test_table2 WHERE pay_time>="2016-07-01 00:00:00" AND pay_time<="2017-07-03 12:59:59" group by pay_id having count(pay_id) > 1 ) tpp2 where tpp1.pay_id=tpp2.pay_id
執行結果:0.48秒
In子查詢的執行計劃,發現外層查詢是一個全表掃描的方式,沒有用到pay_id上的索引
join自查的執行計劃,外層(tpp1別名的查詢)是用到pay_id上的索引的。
後面想對第一種查詢方式使用強制索引,雖然是不報錯的,可是發現根本沒用
若是子查詢是直接的值,則是能夠正常使用索引的。
可見MySQL對IN子查詢的支持,作的確實不怎麼樣。
另外:加一個使用臨時表的狀況,雖然比很多join方式查詢的,可是也比直接使用IN子查詢效率要高,這種狀況下,也是可使用到索引的,不過這種簡單的狀況,是沒有必要使用臨時表的。
下面是相似案例在sqlserver 2014中的測試,幾乎徹底同樣的測試表結構和數量,可見這種狀況下,兩種寫法,在SQL Server中能夠認爲是徹底同樣的(執行計劃+效率),這一點SQL Server要比MySQL強很多
下面是sqlserver中的測試環境腳本。
create table test_table2 ( id int identity(1,1) primary key, pay_id int, pay_time datetime, other_col varchar(100) ) begin tran declare @i int = 0 while @i<300000 begin insert into test_table2 values (@i,getdate()-rand()*300,newid()); if(@i%1000=0) begin insert into test_table2 values (@i,getdate()-rand()*300,newid()); end set @i = @i + 1 end COMMIT GO create index idx_pay_id on test_table2(pay_id); create index idx_time on test_table2(pay_time); GO select * from test_table2 where pay_id in ( select pay_id from test_table2 where pay_time>='2017-01-21 00:00:00' AND pay_time<='2017-07-03 12:59:59' group by pay_id having count(pay_id) > 1 ); select tpp1.* from test_table2 tpp1, ( select pay_id from test_table2 WHERE pay_time>='2017-01-21 00:00:00' AND pay_time<='2017-07-30 12:59:59' group by pay_id having count(pay_id) > 1 ) tpp2 where tpp1.pay_id=tpp2.pay_id
總結:在MySQL數據中,截止5.7.18版本,對IN子查詢,仍要慎用