Python使用grequests併發發送請求

[TOC]

前言

requests是Python發送接口請求很是好用的一個三方庫，由K神編寫，簡單，方便上手快。可是requests發送請求是串行的，即阻塞的。發送完一條請求才能發送另外一條請求。 爲了提高測試效率，通常咱們須要並行發送請求。這裏能夠使用多線程，或者協程，gevent或者aiohttp，然而使用起來，都相對麻煩。

grequests是K神基於gevent+requests編寫的一個併發發送請求的庫,使用起來很是簡單。

安裝方法： pip install gevent grequests 項目地址：https://github.com/spyoungtech/grequests

grequests簡單使用

首先構造一個請求列表，使用grequests.map()並行發送，獲得一個響應列表。示例以下。

import grequests

req_list = [   # 請求列表
    grequests.get('http://httpbin.org/get?a=1&b=2'),
    grequests.post('http://httpbin.org/post', data={'a':1,'b':2}),
    grequests.put('http://httpbin.org/post', json={'a': 1, 'b': 2}),
]

res_list = grequests.map(req_list)    # 並行發送，等最後一個運行完後返回
print(res_list[0].text)  # 打印第一個請求的響應文本

grequests支持get、post、put、delete等requests支持的HTTP請求方法，使用參數和requests一致，發送請求很是簡單。 經過遍歷res_list能夠獲得全部請求的返回結果。

grequests和requests性能對比

咱們能夠對比下requests串行和grequests並行請求100次github.com的時間，示例以下。 使用requests發送請求

import requests
import time

start = time.time()
res_list = [requests.get('https://github.com') for i in range(100)]
print(time.time()-start)

實際耗時約100s+

使用grequests發送

import grequests
import time

start = time.time()
req_list = [grequests.get('https://github.com') for i in range(100)]
res_list = grequests.map(req_list)
print(time.time()-start)

實際耗時約3.58s

異常處理

在批量發送請求時不免遇到某個請求url沒法訪問或超時等異常，grequests.map()方法還支持自定義異常處理函數，示例以下。

import grequests

def err_handler(request, exception):
    print("請求出錯")

req_list = [
    grequests.get('http://httpbin.org/delay/1', timeout=0.001),   # 超時異常
    grequests.get('http://fakedomain/'),   # 該域名不存在
    grequests.get('http://httpbin.org/status/500')    #  正常返回500的請求
]

res_list = grequests.map(reqs, exception_handler=err_handler)
print(res_list)

運行結果：

請求出錯
請求出錯
[None, None, <Response [500]>]