企查查每日新增企業數據抓取

企查查每日新增企業數據抓取mysql

還沒有完成的工做:

redis數據轉存mysql git

代理池還沒有設置 github

企查查限制,每分鐘請求大概不能超過30次,全部功能未加併發,請不要使用代理併發,會封帳戶的redis

已經完成工做:

天天定時抓取
自動刷新token
省份、市的全部代碼
token自動刷新
根據地址自動將省份、市、區縣進行分割
全部數據存到redis裏面
能夠自動登陸,帳號須要獨立
getnewdata.py 項目主入口
other放城市和省份代碼
common公用方法
getmoredata.py 獲取更多的企業數據,包括經營範圍、聯繫方式等
getnewdata.py 獲取每日新增企業數據
摒棄之前所用方法,採用新的思路
新增將數據寫入文本
本代碼只作學習交流,請勿用於非法渠道!!! 話很少說,看圖
github鏈接 https://github.com/zhaoboy9692
sql

相關文章
相關標籤/搜索