pip install mitmproxy
檢測是否安裝成功linux
mitmproxy --version
默認監聽 8080端口,使用 -p 指定端口web
linux 中操做數據庫
mitmproxyjson
tab 切換顯示頁面 esc +q 返回 上下移動
windows 端口8080端口windows
使用命令 mitmdump或者mitmweb函數
把代理日誌寫入文件工具
mitmdump -w text.txt 輸出文件名
mitmwebpost
命令行中輸入fui
斷點攔截url
命令行輸入i,編寫攔截規則
選擇數據包,回車
輸入e進入修改,tab切換到response.
q 返回
輸入a繼續訪問.
5 使用mitmproxy中間人代理,爬取數據,入庫
請求攔截函數名:
def request(flow): pass
響應攔截:
def responset(flow): // flow 表示數據流 pass
實例代碼
import json from handle_db import mongo_info #引入數據庫 def response(flow): if 'aweme/v1/user/follower/list/' in flow.request.url: // 若是請求的url中包含了 # 'aweme/v1/user/follower/list/', 則攔截 for user in json.loads(flow.response.text)['followers']: douyin_info={} douyin_info['share_id']=user['uid'] douyin_info['douyin_id']=user['short_id'] douyin_info['nickname']=user['nickname'] mongo_info.save_task(douyin_info)