pt-query-digest慢日誌分析工具

簡介

pt-query-digest是用於分析mysql慢查詢的一個工具，它能夠分析binlog、General log、slowlog，也能夠經過SHOW PROCESSLIST或者經過tcpdump抓取的MySQL協議數據來進行分析。能夠把分析結果輸出到文件中，分析過程是先對查詢語句的條件進行參數化，而後對參數化之後的查詢進行分組統計，統計出各查詢的執行時間、次數、佔比等，能夠藉助分析結果找出問題進行優化。

pt-query-digest語法及重要選項

1. pt-query-digest [OPTIONS] [FILES] [DSN]
2. --create-review-table  當使用--review參數把分析結果輸出到表中時，若是沒有表就自動建立。
3. --create-history-table  當使用--history參數把分析結果輸出到表中時，若是沒有表就自動建立。
4. --filter  對輸入的慢查詢按指定的字符串進行匹配過濾後再進行分析。
5. --limit    限制輸出結果百分比或數量，默認值是20，即將最慢的20條語句輸出，若是是50%則按總響應時間佔比從大到小排序，輸出到總和達到50%位置截止。
6. --host  mysql服務器地址
7. --user  mysql用戶名
8. --password  mysql用戶密碼
9. --history 將分析結果保存到表中，分析結果比較詳細，下次再使用--history時，若是存在相同的語句，且查詢所在的時間區間和歷史表中的不一樣，則會記錄到數據表中，能夠經過查詢同一CHECKSUM來比較某類型查詢的歷史變化。
10. --review 將分析結果保存到表中，這個分析只是對查詢條件進行參數化，一個類型的查詢一條記錄，比較簡單。當下次使用--review時，若是存在相同的語句分析，就不會記錄到數據表中。
11. --output 分析結果輸出類型，值能夠是report(標準分析報告)、slowlog(Mysql slow log)、json、json-anon，通常使用report，以便於閱讀。
12. --since 從什麼時間開始分析，值爲字符串，能夠是指定的某個」yyyy-mm-dd [hh:mm:ss]」格式的時間點，也能夠是簡單的一個時間值：s(秒)、h(小時)、m(分鐘)、d(天)，如12h就表示從12小時前開始統計。

13. --until 截止時間，配合—since能夠分析一段時間內的慢查詢。

pt-query-digest輸出結果分析

第一部分：整體統計結果

Overall：總共有多少條查詢

Time range：查詢執行的時間範圍

unique：惟一查詢數量，即對查詢條件進行參數化之後，總共有多少個不一樣的查詢

total：總計   min：最小   max：最大  avg：平均

95%：把全部值從小到大排列，位置位於95%的那個數，這個數通常最具備參考價值

median：中位數，把全部值從小到大排列，位置位於中間那個數

第二部分：查詢分組統計結果

Rank：全部語句的排名，默認按查詢時間降序排列，經過--order-by指定

Query ID：語句的ID，（去掉多餘空格和文本字符，計算hash值）

Response：總的響應時間

time：該查詢在本次分析中總的時間佔比

calls：執行次數，即本次分析總共有多少條這種類型的查詢語句

R/Call：平均每次執行的響應時間

V/M：響應時間Variance-to-mean的比率

Item：查詢對象

第三部分：每一種查詢的詳細統計結果

由下面查詢的詳細統計結果，最上面的表格列出了執行次數、最大、最小、平均、95%等各項目的統計。

ID：查詢的ID號，和上圖的Query ID對應

Databases：數據庫名

Users：各個用戶執行的次數（佔比）

Query_time distribution ：查詢時間分佈, 長短體現區間佔比，本例中1s-10s之間查詢數量是10s以上的兩倍。

Tables：查詢中涉及到的表

Explain：SQL語句

用法示例

1.直接分析慢查詢文件:

pt-query-digest slow.log > slow_report.log

2.分析最近12小時內的查詢：

pt-query-digest --since=12h slow.log > slow_report2.log

3.分析指定時間範圍內的查詢：

pt-query-digest slow.log --since '2017-01-07 09:30:00' --until '2017-01-07 10:00:00'> > slow_report3.log

4.分析指含有select語句的慢查詢

pt-query-digest --filter '$event->{fingerprint} =~ m/^select/i' slow.log> slow_report4.log

5.針對某個用戶的慢查詢

pt-query-digest --filter '($event->{user} || "") =~ m/^root/i' slow.log> slow_report5.log

6.查詢全部的全表掃描或full join的慢查詢

pt-query-digest --filter '(($event->{Full_scan} || "") eq "yes") ||(($event->{Full_join} || "") eq "yes")' slow.log> slow_report6.log

7.把查詢保存到query_review表

pt-query-digest --user=root –password=abc123 --review h=localhost,D=test,t=query_review--create-review-table slow.log

8.把查詢保存到query_history表

pt-query-digest --user=root –password=abc123 --review h=localhost,D=test,t=query_history--create-review-table slow.log_0001
pt-query-digest --user=root –password=abc123 --review h=localhost,D=test,t=query_history--create-review-table slow.log_0002

9.經過tcpdump抓取mysql的tcp協議數據，而後再分析

tcpdump -s 65535 -x -nn -q -tttt -i any -c 1000 port 3306 > mysql.tcp.txt
pt-query-digest --type tcpdump mysql.tcp.txt> slow_report9.log

10.分析binlog

mysqlbinlog mysql-bin.000093 > mysql-bin000093.sql
pt-query-digest --type=binlog mysql-bin000093.sql > slow_report10.log

11.分析general log

pt-query-digest --type=genlog localhost.log > slow_report11.log

參考：http://www.jb51.net/article/107698.htm