一 高併發的概念
在互聯網時代,併發,高併發一般是指併發訪問。也就是在某個時間點,有多少個訪問同時到來。css
二 高併發架構相關概念
一、QPS (每秒查詢率) : 每秒鐘請求或者查詢的數量,在互聯網領域,指每秒響應請求數(指HTTP請求)html
二、PV(Page View):綜合瀏覽量,即頁面瀏覽量或者點擊量,一個訪客在24小時內訪問的頁面數量前端
--注:同一我的瀏覽你的網站的同一頁面,只記作一次pvnginx
三、吞吐量(fetches/sec) :單位時間內處理的請求數量 (一般由QPS和併發數決定)web
四、響應時間:從請求發出到收到響應花費的時間數據庫
五、獨立訪客(UV):必定時間範圍內,相同訪客屢次訪問網站,只計算爲1個獨立訪客瀏覽器
六、帶寬:計算帶寬需關注兩個指標,峯值流量和頁面的平均大小緩存
七、日網站帶寬: PV/統計時間(換算到秒) * 平均頁面大小(kb)* 8服務器
三 須要注意點:
一、QPS不等於併發鏈接數(QPS是每秒HTTP請求數量,併發鏈接數是系統同時處理的請求數量)架構
二、峯值每秒請求數(QPS)= (總PV數*80%)/ (六小時秒數*20%)【表明80%的訪問量都集中在20%的時間內】
三、壓力測試: 測試能承受的最大併發數 以及測試最大承受的QPS值
四、經常使用的性能測試工具【ab,wrk,httpload,Web Bench,Siege,Apache JMeter】
四 優化
一、當QPS小於50時
優化方案:爲通常小型網站,不用考慮優化
二、當QPS達到100時,遇到數據查詢瓶頸
優化方案: 數據庫緩存層,數據庫的負載均衡
三、當QPS達到800時, 遇到帶寬瓶頸
優化方案:CDN加速,負載均衡
四、當QPS達到1000時
優化方案: 作html靜態緩存
五、當QPS達到2000時
優化方案: 作業務分離,分佈式存儲
5、高併發解決方案案例:
一、流量優化
防盜鏈處理(去除惡意請求)
二、前端優化
(1) 減小HTTP請求[將css,js等合併]
(2) 添加異步請求(先不將全部數據都展現給用戶,用戶觸發某個事件,纔會異步請求數據)
(3) 啓用瀏覽器緩存和文件壓縮
(4) CDN加速
(5) 創建獨立的圖片服務器(減小I/O)
三、服務端優化
(1) 頁面靜態化
(2) 併發處理
(3) 隊列處理
四、數據庫優化
(1) 數據庫緩存
(2) 分庫分表,分區
(3) 讀寫分離
(4) 負載均衡
五、web服務器優化
(1) nginx反向代理實現負載均衡
(2) lvs實現負載均衡