PostgreSQL CPU滿(100%)性能分析及優化

業務場景:大批量更新時，數據庫長時間CPU佔用超過90，影響其餘正常業務流程，參考阿里雲上的一篇文章：https://help.aliyun.com/knowledge_detail/43562.html

在數據庫運維當中，一個DBA比較常遇到又比較緊急的問題，就是突發的CPU滿（CPU利用率達到100%），致使業務停滯。遇到CPU滿，每每須要從後端數據庫開始排查，追溯到具體SQL，最終定位到業務層。下面是這個問題具體的處理方法。

查看鏈接數變化

CPU利用率到達100%，首先懷疑，是否是業務高峯活躍鏈接陡增，而數據庫預留的資源不足形成的結果。咱們須要查看下，問題發生時，活躍的鏈接數是否比平時多不少。對於RDS for PG，數據庫上的鏈接數變化，能夠從控制檯的監控信息中看到。而當前活躍的鏈接數>能夠直接鏈接數據庫，使用下列查詢語句獲得：

select count( * ) from pg_stat_activity where state not like '%idle';

追蹤慢SQL

若是活躍鏈接數的變化處於正常範圍，則很大機率多是當時有性能不好的SQL被大量執行致使。因爲RDS有慢SQL日誌，咱們能夠經過這個日誌，定位到當時比較耗時的SQL來進一步作分析。但一般問題發生時，整個系統都處於停滯狀態，全部SQL都慢下來，當時記錄的>慢SQL可能很是多，並不容易排查罪魁禍首。這裏咱們介紹幾種在問題發生時，即介入追查慢SQL的方法。

1. 第一種方法是使用pg_stat_statements插件定位慢SQL，步驟以下。

1.1. 若是沒有建立這個插件，須要手動建立。咱們要利用插件和數據庫系統裏面的計數信息（如SQL執行時間累積等），而這些信息是不斷累積的，包含了歷史信息。爲了更方便的排查當前的CPU滿問題，咱們要先重置計數器。

create extension pg_stat_statements;

select pg_stat_reset();

select pg_stat_statements_reset();

1.2. 等待一段時間（例如1分鐘），使計數器積累足夠的信息。

1.3. 查詢最耗時的SQL（通常就是致使問題的直接緣由）。

select * from pg_stat_statements order by total_time desc limit 5;

1.4. 查詢讀取Buffer次數最多的SQL，這些SQL可能因爲所查詢的數據沒有索引，而致使了過多的Buffer讀，也同時大量消耗了CPU。

select * from pg_stat_statements order by shared_blks_hit+shared_blks_read desc limit 5;

2. 第二種方法是，直接經過pg_stat_activity視圖，利用下面的查詢，查看當前長時間執行，一直不結束的SQL。這些SQL對應形成CPU滿，也有直接嫌疑。

select datname, usename, client_addr, application_name, state, backend_start, xact_start, xact_stay, query_start, query_stay, replace(query, chr(10), ' ') as query from

 (select pgsa.datname as datname, pgsa.usename as usename, pgsa.client_addr client_addr, pgsa.application_name as application_name, 
pgsa.state as state, pgsa.backend_start as backend_start, pgsa.xact_start as xact_start, extract(epoch from (now() - pgsa.xact_start)) as xact_stay, pgsa.query_start as query_start, extract(epoch from (now() - pgsa.query_start)) as query_stay , pgsa.query as query from pg_stat_activity as pgsa where pgsa.state != 'idle' and pgsa.state != 'idle in transaction' and pgsa.state != 'idle in transaction (aborted)') idleconnections order by query_stay desc limit 5;

3. 第3種方法，是從數據表上表掃描（Table Scan）的信息開始查起，查找缺失索引的表。數據表若是缺失索引，大部分熱數據又都在內存時（例如內存8G，熱數據6G），此時數據庫只能使用表掃描，並須要處理已在內存中的大量的無關記錄，而耗費大量CPU。特別是對於表記錄數超100的表，一次表掃描佔用大量CPU（基本把一個CPU佔滿），多個鏈接併發（例如上百鏈接），把全部CPU佔滿。

3.1. 經過下面的查詢，查出使用表掃描最多的表：

select * from pg_stat_user_tables where n_live_tup > 100000 and seq_scan > 0 order by seq_tup_read desc limit 10;

3.2. 查詢當前正在運行的訪問到上述表的慢查詢：

select * from pg_stat_activity where query ilike '%<table name>%' and query_start - now() > interval '10 seconds';

3.3. 也能夠經過pg_stat_statements插件定位涉及到這些表的查詢：

select * from pg_stat_statements where query ilike '%<table>%'order by shared_blks_hit+shared_blks_read desc limit 3;

 

處理慢SQL

對於上面的方法查出來的慢SQL，首先須要作的多是Cancel或Kill掉他們，使業務先恢復：

select pg_cancel_backend(pid) from pg_stat_activity where query like '%<query text>%' and pid != pg_backend_pid();

select pg_terminate_backend(pid) from pg_stat_activity where query like '%<query text>%' and pid != pg_backend_pid();

若是這些SQL確實是業務上必需的，則須要對他們作優化。這方面有「三板斧」：

1. 對查詢涉及的表，執行ANALYZE <table>或VACUUM ANZLYZE <table>，更新表的統計信息，使查詢計劃更準確。注意，爲避免對業務影響，最好在業務低峯執行。

2. 執行explain <query text>或explain (buffers true, analyze true, verbose true) <query text>命令，查看SQL的執行計劃（注意，前者不會實際執行SQL，後者會實際執行並且能獲得詳細的執行信息），對其中的Table Scan涉及的表，創建索引。

3. 從新編寫SQL，去除掉沒必要要的子查詢、改寫UNION ALL、使用JOIN CLAUSE固定鏈接順序等到，都是進一步深度優化SQL的手段，這裏再也不深刻說明。