吞吐量(Throughput)、QPS、併發數、響應時間(RT)

  1. 吞吐量:系統在單位時間內處理請求的數量,是併發系統的一個重要的性能指標。
  2. QPS(每秒查詢率 Query Per Second):對一個特定的查詢服務器在規定時間內所處理流量多少的衡量標準,在因特網上,做爲域名系統服務器的機器的性能常常用每秒查詢率來衡量。對應fetches/sec,即每秒的響應請求數,也便是最大吞吐能力。 
  3. 併發數:指系統能夠同時承載的正常使用系統功能的用戶的數量。與吞吐量相比,併發用戶數是一個更直觀但也更籠統的性能指標。
  4. 響應時間:系統對請求做出響應的時間。

QPS提高帶來什麼?QPS提高說明單臺服務器處理能力提高,若是QPS提高1倍,服務器資源減小1半,或者說服務器不變能夠支撐2倍的請求量。 
如何提高QPS? 
1)減小CPU的使用時間(哪些代碼會消耗CPU:循環、字符串拼接\查找\替換、編碼\解碼、序列化\反序列化、壓縮) 
2)增長CPU的數量 
3)減小同步鎖 
(若是CPU不能被壓到85%以上,而且此時的QPS已經達到了峯值,則說明另有瓶頸,接下去關注內存) 
RT提高帶來什麼? 
響應速度提高說明單詞請求的處理速度提高,用戶感受任務處理速度更快,系統反應速度更快。固然在處理能力不變的狀況下,RT的提高必然會提高QPS。 
如何提高RT? 
1)減小I/O的響應時間 
2)減小I/O的調用次數 
3)減小CPU使用時間(固然在I/O佔大頭的應用裏,這方面優化效果確定不明顯) 服務器

QPS(TPS)= 併發數/平均響應時間
 併發

相關文章
相關標籤/搜索