gunicorn 介紹與性能分析

時間 2019-12-02

原文原文鏈接

閱讀此文前建議先閱讀個人博客html

gunicorn 是一個 python wsgi http server，只支持在 unix 系統上運行node

安裝

gunicorn 實際上是 python 的一個包，安裝方法同通常包的安裝python

pip install gunicorn

也可 tar 包安裝nginx

安裝完畢可用以下命令檢測web

[root@node bin]# gunicorn -h

-h 就是 help，查看 gunicorn 命令的參數flask

gunicorn 參數

-c CONFIG    : CONFIG,配置文件的路徑，經過配置文件啓動；生產環境使用；

-b ADDRESS   : ADDRESS，ip加端口，綁定運行的主機；

-w INT, --workers INT：用於處理工做進程的數量，爲正整數，默認爲1；

-k STRTING, --worker-class STRTING：要使用的工做模式，默認爲sync異步，能夠下載eventlet和gevent並指定

--threads INT：處理請求的工做線程數，使用指定數量的線程運行每一個worker。爲正整數，默認爲1。

--worker-connections INT：最大客戶端併發數量，默認狀況下這個值爲1000。

--backlog int：未決鏈接的最大數量，即等待服務的客戶的數量。默認2048個，通常不修改；

-p FILE, --pid FILE：設置pid文件的文件名，若是不設置將不會建立pid文件


--access-logfile FILE   ：  要寫入的訪問日誌目錄

--access-logformat STRING：要寫入的訪問日誌格式

--error-logfile FILE, --log-file FILE  ：  要寫入錯誤日誌的文件目錄。

--log-level LEVEL   ：   錯誤日誌輸出等級。


--limit-request-line INT   ：  HTTP請求頭的行數的最大大小，此參數用於限制HTTP請求行的容許大小，默認狀況下，這個值爲4094。值是0~8190的數字。

--limit-request-fields INT   ：  限制HTTP請求中請求頭字段的數量。此字段用於限制請求頭字段的數量以防止DDOS攻擊，默認狀況下，這個值爲100，這個值不能超過32768

--limit-request-field-size INT  ：  限制HTTP請求中請求頭的大小，默認狀況下這個值爲8190字節。值是一個整數或者0，當該值爲0時，表示將對請求頭大小不作限制


-t INT, --timeout INT：超過這麼多秒後工做將被殺掉，並從新啓動。通常設定爲30秒；

--daemon： 是否以守護進程啓動，默認false；

--chdir： 在加載應用程序以前切換目錄；

--graceful-timeout INT：默認狀況下，這個值爲30，在超時(從接收到重啓信號開始)以後仍然活着的工做將被強行殺死；通常使用默認；

--keep-alive INT：在keep-alive鏈接上等待請求的秒數，默認狀況下值爲2。通常設定在1~5秒之間。

--reload：默認爲False。此設置用於開發，每當應用程序發生更改時，都會致使工做從新啓動。

--spew：打印服務器執行過的每一條語句，默認False。此選擇爲原子性的，即要麼所有打印，要麼所有不打印；

--check-config   ：顯示如今的配置，默認值爲False，即顯示。

-e ENV, --env ENV： 設置環境變量；

gunicorn 配置

gunicorn 有兩種配置方式服務器

命令行

示例以下架構

gunicorn -w 8 -b 0.0.0.0:5002 simple_flask:app

simple_flask 是 flask 的主文件併發

app 是主文件中那個 app flask 對象app

配置文件啓動

# gunicorn.conf

# 並行工做進程數
workers = 4
# 指定每一個工做者的線程數
threads = 2
# 監聽內網端口5000
bind = '127.0.0.1:5000'
# 設置守護進程,將進程交給supervisor管理
daemon = 'false'
# 工做模式協程
worker_class = 'gevent'
# 設置最大併發量
worker_connections = 2000
# 設置進程文件目錄
pidfile = '/var/run/gunicorn.pid'
# 設置訪問日誌和錯誤信息日誌路徑
accesslog = '/var/log/gunicorn_acess.log'
errorlog = '/var/log/gunicorn_error.log'
# 設置日誌記錄水平
loglevel = 'warning'

啓動 gunicorn

gunicorn -c gunicorn.conf app:app

gunicorn VS 自帶服務

flask 項目

from flask import Flask

app = Flask(__name__)

@app.route("/")
def hello():
    return "Hello, World!"


if __name__ == '__main__':
    app.run(host='0.0.0.0')

flask 自帶服務器啓動 web

對其進行壓力測試，模擬 200 個用戶發起 9000 個請求

ab -n 9000 -c 200 -r "http://172.16.89.80:5000/"

輸出

Server Software:        Werkzeug/0.16.0
Server Hostname:        172.16.89.80
Server Port:            5000

Document Path:          /
Document Length:        13 bytes

Concurrency Level:      200
Time taken for tests:   13.862 seconds
Complete requests:      9000
Failed requests:        0
Write errors:           0
Total transferred:      1503000 bytes
HTML transferred:       117000 bytes
Requests per second:    649.26 [#/sec] (mean)
Time per request:       308.043 [ms] (mean)
Time per request:       1.540 [ms] (mean, across all concurrent requests)
Transfer rate:          105.89 [Kbytes/sec] received

Complete requests 9000 個請求；

Time taken for tests 共耗時 13.862 s；

Requests per second 每秒處理請求 649.26 個； 649.26 x 13.862 = 9000.04

注意 200 個用戶（併發）並非說併發量是 200，由於一個用戶可能狂點，在一個 request-response 沒結束以前，狂點屢次請求，這也是併發，因此上述輸出代表併發量爲 649

gunicorn 啓動 flask

gunicorn -w 8 -b 0.0.0.0:5002 simple_flask:app

壓力測試，一樣模擬 200 個用戶發起 9000 個請求

/usr/bin/ab -n 9000 -c 200 -r -k  'http://172.16.89.80:5002/'

輸出

Concurrency Level:      200
Time taken for tests:   1.998 seconds
Complete requests:      9000
Failed requests:        0
Write errors:           0
Keep-Alive requests:    0
Total transferred:      1557000 bytes
HTML transferred:       117000 bytes
Requests per second:    4503.48 [#/sec] (mean)
Time per request:       44.410 [ms] (mean)
Time per request:       0.222 [ms] (mean, across all concurrent requests)
Transfer rate:          760.84 [Kbytes/sec] received

類比上面來看本次輸出，很明顯，效率高；

併發量 4503，將近 8 倍

有意思的是咱們讓 gunicorn 開了 8個進程，因此能夠這麼理解， gunicorn 效率 = 單進程效率（自帶服務器）x 進程數

固然這也要跟硬件有關係，若是你只是 8 核的服務器，開了 80 個進程，就不能這麼算了

用 gevent 併發量更大

gunicorn -k gevent -w 8 -b 0.0.0.0:5002 simple_flask:app

併發量 4890。

gunicorn VS nginx

測試樣例仍是上面那個 flask 項目

這裏只作簡單分析，由於測試時跟硬件有必定關係

gunicorn 性能

Concurrency Level:      10000
Time taken for tests:   25.494 seconds
Complete requests:      100000
Failed requests:        292
   (Connect: 0, Receive: 88, Length: 116, Exceptions: 88)
Write errors:           0
Total transferred:      17279932 bytes
HTML transferred:       1298492 bytes
Requests per second:    3922.52 [#/sec] (mean)
Time per request:       2549.384 [ms] (mean)
Time per request:       0.255 [ms] (mean, across all concurrent requests)
Transfer rate:          661.92 [Kbytes/sec] received

失敗 292 次請求，併發 3922

nginx 性能

Concurrency Level:      10000
Time taken for tests:   26.333 seconds
Complete requests:      100000
Failed requests:        42
   (Connect: 0, Receive: 0, Length: 42, Exceptions: 0)
Write errors:           0
Total transferred:      17292734 bytes
HTML transferred:       1299454 bytes
Requests per second:    3797.45 [#/sec] (mean)
Time per request:       2633.344 [ms] (mean)
Time per request:       0.263 [ms] (mean, across all concurrent requests)
Transfer rate:          641.29 [Kbytes/sec] received