企查查每日新增企業數據抓取mysql
redis數據轉存mysql git
代理池還沒有設置 github
企查查限制,每分鐘請求大概不能超過30次,全部功能未加併發,請不要使用代理併發,會封帳戶的redis
天天定時抓取
自動刷新token
省份、市的全部代碼
token自動刷新
根據地址自動將省份、市、區縣進行分割
全部數據存到redis裏面
能夠自動登陸,帳號須要獨立
getnewdata.py 項目主入口
other放城市和省份代碼
common公用方法
getmoredata.py 獲取更多的企業數據,包括經營範圍、聯繫方式等
getnewdata.py 獲取每日新增企業數據
摒棄之前所用方法,採用新的思路
新增將數據寫入文本
本代碼只作學習交流,請勿用於非法渠道!!! 話很少說,看圖
github鏈接 https://github.com/zhaoboy9692
sql