MySQL 百萬級數據量分頁查詢方法及其優化

方法1: 直接使用數據庫提供的SQL語句

• 語句樣式: MySQL中,可用以下方法: SELECT * FROM 表名稱 LIMIT M,N

• 適應場景: 適用於數據量較少的狀況(元組百/千級)

• 緣由/缺點: 全表掃描,速度會很慢 且 有的數據庫結果集返回不穩定(如某次返回1,2,3,另外的一次返回2,1,3). Limit限制的是從結果集的M位置處取出N條輸出,其他拋棄.

方法2: 創建主鍵或惟一索引, 利用索引(假設每頁10條)

• 語句樣式: MySQL中,可用以下方法: SELECT * FROM 表名稱 WHERE id_pk > (pageNum*10) LIMIT M

• 適應場景: 適用於數據量多的狀況(元組數上萬)

• 緣由: 索引掃描,速度會很快. 有朋友提出: 由於數據查詢出來並非按照pk_id排序的，因此會有漏掉數據的狀況，只能方法3

方法3: 基於索引再排序

• 語句樣式: MySQL中,可用以下方法: SELECT * FROM 表名稱 WHERE id_pk > (pageNum*10) ORDER BY id_pk ASC LIMIT M

• 適應場景: 適用於數據量多的狀況(元組數上萬). 最好ORDER BY後的列對象是主鍵或惟一因此,使得ORDERBY操做能利用索引被消除但結果集是穩定的(穩定的含義,參見方法1)

• 緣由: 索引掃描,速度會很快. 但MySQL的排序操做,只有ASC沒有DESC(DESC是假的,將來會作真正的DESC,期待...).

方法4: 基於索引使用prepare

第一個問號表示pageNum，第二個？表示每頁元組數

• 語句樣式: MySQL中,可用以下方法: PREPARE stmt_name FROM SELECT * FROM 表名稱 WHERE id_pk > (？* ？) ORDER BY id_pk ASC LIMIT M

• 適應場景: 大數據量

• 緣由: 索引掃描,速度會很快. prepare語句又比通常的查詢語句快一點。

方法5: 利用MySQL支持ORDER操做能夠利用索引快速定位部分元組,避免全表掃描

好比: 讀第1000到1019行元組(pk是主鍵/惟一鍵).

SELECT * FROM your_table WHERE pk>=1000 ORDER BY pk ASC LIMIT 0,20

方法6: 利用"子查詢/鏈接+索引"快速定位元組的位置,而後再讀取元組.

好比(id是主鍵/惟一鍵,藍色字體時變量)

利用子查詢示例:

SELECT * FROM your_table WHERE id <=(SELECT id FROM your_table ORDER BY id desc LIMIT ($page-1)*$pagesize ORDER BY id descLIMIT $pagesize 

利用鏈接示例:

SELECT * FROM your_table AS t1JOIN (SELECT id FROM your_table ORDER BY id desc LIMIT ($page-1)*$pagesize AS t2WHERE t1.id <= t2.id ORDER BY t1.id desc LIMIT $pagesize;

mysql大數據量使用limit分頁，隨着頁碼的增大，查詢效率越低下。

測試實驗

1.   直接用limit start, count分頁語句， 也是我程序中用的方法：

select * from product limit start, count 

當起始頁較小時，查詢沒有性能問題，咱們分別看下從10， 100， 1000， 10000開始分頁的執行時間（每頁取20條）。

以下：

select * from product limit 10, 20

 0.016秒

select * from product limit 100, 20

 0.016秒

select * from product limit 1000, 20

 0.047秒

select * from product limit 10000, 20

 0.094秒

咱們已經看出隨着起始記錄的增長，時間也隨着增大， 這說明分頁語句limit跟起始頁碼是有很大關係的，那麼咱們把起始記錄改成40w看下（也就是記錄的通常左右）

select * from product limit 400000, 20

 3.229秒 

再看咱們取最後一頁記錄的時間

select * from product limit 866613, 20

 37.44秒 

像這種分頁最大的頁碼頁顯然這種時間是沒法忍受的。

從中咱們也能總結出兩件事情：

1. limit語句的查詢時間與起始記錄的位置成正比

2. mysql的limit語句是很方便，可是對記錄不少的表並不適合直接使用。

2.   對limit分頁問題的性能優化方法

利用表的覆蓋索引來加速分頁查詢

咱們都知道，利用了索引查詢的語句中若是隻包含了那個索引列（覆蓋索引），那麼這種狀況會查詢很快。

由於利用索引查找有優化算法，且數據就在查詢索引上面，不用再去找相關的數據地址了，這樣節省了不少時間。另外Mysql中也有相關的索引緩存，在併發高的時候利用緩存就效果更好了。

在咱們的例子中，咱們知道id字段是主鍵，天然就包含了默認的主鍵索引。如今讓咱們看看利用覆蓋索引的查詢效果如何。

此次咱們之間查詢最後一頁的數據（利用覆蓋索引，只包含id列），以下：

select id from product limit 866613, 20

 0.2秒 

相對於查詢了全部列的37.44秒，提高了大概100多倍的速度

那麼若是咱們也要查詢全部列，有兩種方法，一種是id>=的形式，另外一種就是利用join，看下實際狀況：

SELECT * FROM product WHERE ID > =(select id from product limit 866613, 1) limit 20

查詢時間爲0.2秒！

另外一種寫法

SELECT * FROM product a JOIN (select id from product limit 866613, 20) b ON a.ID = b.id

查詢時間也很短！

3.  複合索引優化方法

MySql 性能到底能有多高？MySql 這個數據庫絕對是適合dba級的高手去玩的，通常作一點1萬篇新聞的小型系統怎麼寫均可以，用xx框架能夠實現快速開發。但是數據量到了10萬，百萬至千萬，他的性能還能那麼高嗎？一點小小的失誤，可能形成整個系統的改寫，甚至更本系統沒法正常運行！好了，不那麼多廢話了。

用事實說話，看例子：

數據表 collect ( id, title ,info ,vtype) 就這4個字段，其中 title 用定長，info 用text, id 是逐漸，vtype是tinyint，vtype是索引。這是一個基本的新聞系統的簡單模型。如今往裏面填充數據，填充10萬篇新聞。最後collect 爲 10萬條記錄，數據庫表佔用硬1.6G。

OK ,看下面這條sql語句：

select id,title from collect limit 1000,10;

很快；基本上0.01秒就OK，再看下面的

select id,title from collect limit 90000,10;

從9萬條開始分頁，結果？

8-9秒完成，my god 哪出問題了？其實要優化這條數據，網上找獲得答案。看下面一條語句:

select id from collect order by id limit 90000,10;

很快，0.04秒就OK。 爲何？由於用了id主鍵作索引固然快。網上的改法是：

select id,title from collect where id>=(select id from collect order by id limit 90000,1) limit 10;

這就是用了id作索引的結果。但是問題複雜那麼一點點，就完了。看下面的語句

select id from collect where vtype=1 order by id limit 90000,10;

 很慢，用了8-9秒！

到了這裏我相信不少人會和我同樣，有崩潰感受！vtype 作了索引了啊？怎麼會慢呢？vtype作了索引是不錯，你直接

select id from collect where vtype=1 limit 1000,10;

是很快的，基本上0.05秒，但是提升90倍，從9萬開始，那就是0.05*90=4.5秒的速度了。和測試結果8-9秒到了一個數量級。

從這裏開始有人提出了分表的思路，這個和dis #cuz 論壇是同樣的思路。思路以下：

建一個索引表： t (id,title,vtype) 並設置成定長，而後作分頁，分頁出結果再到 collect 裏面去找info 。 是否可行呢？實驗下就知道了。

10萬條記錄到 t(id,title,vtype) 裏，數據表大小20M左右。用

select id from t where vtype=1 order by id limit 90000,10;

很快了。基本上0.1-0.2秒能夠跑完。爲何會這樣呢？我猜測是由於collect 數據太多，因此分頁要跑很長的路。limit 徹底和數據表的大小有關的。其實這樣作仍是全表掃描，只是由於數據量小，只有10萬才快。OK， 來個瘋狂的實驗，加到100萬條，測試性能。加了10倍的數據，立刻t表就到了200多M，並且是定長。仍是剛纔的查詢語句，時間是0.1-0.2秒完成！分表性能沒問題？

錯！由於咱們的limit仍是9萬，因此快。給個大的，90萬開始

select id from t where vtype=1 order by id limit 900000,10;

看看結果，時間是1-2秒！why ?

分表了時間仍是這麼長，很是之鬱悶！有人說定長會提升limit的性能，開始我也覺得，由於一條記錄的長度是固定的，mysql 應該能夠算出90萬的位置纔對啊？但是咱們高估了mysql 的智能，他不是商務數據庫，事實證實定長和非定長對limit影響不大？怪不得有人說discuz到了100萬條記錄就會很慢，我相信這是真的，這個和數據庫設計有關！

難道MySQL 沒法突破100萬的限制嗎？？？到了100萬的分頁就真的到了極限？

答案是： NO 爲何突破不了100萬是由於不會設計mysql形成的。下面介紹非分表法，來個瘋狂的測試！一張表搞定100萬記錄，而且10G 數據庫，如何快速分頁！

好了，咱們的測試又回到 collect表，開始測試結論是：

30萬數據，用分表法可行，超過30萬他的速度會慢道你沒法忍受！固然若是用分表+我這種方法，那是絕對完美的。可是用了我這種方法後，不用分表也能夠完美解決！

答案就是：複合索引！ 有一次設計mysql索引的時候，無心中發現索引名字能夠任取，能夠選擇幾個字段進來，這有什麼用呢？

開始的

select id from collect order by id limit 90000,10; 

這麼快就是由於走了索引，但是若是加了where 就不走索引了。抱着試試看的想法加了 search(vtype,id) 這樣的索引。

而後測試

select id from collect where vtype=1 limit 90000,10; 

很是快！0.04秒完成！

再測試:

select id ,title from collect where vtype=1 limit 90000,10; 

很是遺憾，8-9秒，沒走search索引！

再測試：search(id,vtype)，仍是select id 這個語句，也很是遺憾，0.5秒。

綜上：若是對於有where 條件，又想走索引用limit的，必須設計一個索引，將where 放第一位，limit用到的主鍵放第2位，並且只能select 主鍵！

完美解決了分頁問題了。能夠快速返回id就有但願優化limit ， 按這樣的邏輯，百萬級的limit 應該在0.0x秒就能夠分完。看來mysql 語句的優化和索引時很是重要的！