爬蟲實戰項目集合

時間 2019-11-21

原文原文鏈接

WechatSogou前端

https://github.com/Chyroc/WechatSogoupython

微信公衆號爬蟲。基於搜狗微信搜索的微信公衆號爬蟲接口，能夠擴展成基於搜狗搜索的爬蟲，返回結果是列表，每一項均是公衆號具體信息字典。git

DouBanSpidergithub

https://github.com/lanbing510/DouBanSpiderweb

豆瓣讀書爬蟲。能夠爬下豆瓣讀書標籤下的全部圖書，按評分排名依次存儲，存儲到Excel中，可方便你們篩選蒐羅，好比篩選評價人數>1000的高分書籍；可依據不一樣的主題存儲到Excel不一樣的Sheet ，採用User Agent假裝爲瀏覽器進行爬取，並加入隨機延時來更好的模仿瀏覽器行爲，避免爬蟲被封。redis

zhihu_spidermongodb

https://github.com/LiuRoy/zhihu_spiderbootstrap

知乎爬蟲。此項目的功能是爬取知乎用戶信息以及人際拓撲關係，爬蟲框架使用scrapy，數據存儲使用mongo瀏覽器

bilibili-user微信

https://github.com/airingursb/bilibili-user

Bilibili用戶爬蟲。總數據數：20119918，抓取字段：用戶id，暱稱，性別，頭像，等級，經驗值，粉絲數，生日，地址，註冊時間，簽名，等級與經驗值等。抓取以後生成B站用戶數據報告。

SinaSpider

https://github.com/LiuXingMing/SinaSpider

新浪微博爬蟲。主要爬取新浪微博用戶的我的信息、微博信息、粉絲和關注。代碼獲取新浪微博Cookie進行登陸，可經過多帳號登陸來防止新浪的反扒。主要使用 scrapy 爬蟲框架。

distribute_crawler

https://github.com/gnemoug/distribute_crawler

小說下載分佈式爬蟲。使用scrapy,Redis, MongoDB,graphite實現的一個分佈式網絡爬蟲,底層存儲mongodb集羣,分佈式使用redis實現,爬蟲狀態顯示使用graphite實現，主要針對一個小說站點。

CnkiSpider

https://github.com/yanzhou/CnkiSpider

中國知網爬蟲。設置檢索條件後，執行src/CnkiSpider.py抓取數據，抓取數據存儲在/data目錄下，每一個數據文件的第一行爲字段名稱。

LianJiaSpider

https://github.com/lanbing510/LianJiaSpider

鏈家網爬蟲。爬取北京地區鏈家歷年二手房成交記錄。涵蓋鏈家爬蟲一文的所有代碼，包括鏈家模擬登陸代碼。

scrapyjingdong

https://github.com/taizilongxu/scrapyjingdong

京東爬蟲。基於scrapy的京東網站爬蟲，保存格式爲csv。

QQ-Groups-Spider

https://github.com/caspartse/QQ-Groups-Spider

QQ 羣爬蟲。批量抓取 QQ 羣信息，包括羣名稱、羣號、羣人數、羣主、羣簡介等內容，最終生成 XLS(X) / CSV 結果文件。

wooyunpublic

https://github.com/hanc00l/wooyunpublic

烏雲爬蟲。烏雲公開漏洞、知識庫爬蟲和搜索。所有公開漏洞的列表和每一個漏洞的文本內容存在mongodb中，大概約2G內容；若是整站爬所有文本和圖片做爲離線查詢，大概須要10G空間、2小時（10M電信帶寬）；爬取所有知識庫，總共約500M空間。漏洞搜索使用了Flask做爲web server，bootstrap做爲前端。

findtrip

https://github.com/fankcoder/findtrip

機票爬蟲（去哪兒和攜程網）。Findtrip是一個基於Scrapy的機票爬蟲，目前整合了國內兩大機票網站（去哪兒 + 攜程）。

163spider

https://github.com/leyle/163spider

基於requests、MySQLdb、torndb的網易客戶端內容爬蟲

doubanspiders

https://github.com/fanpei91/doubanspiders

豆瓣電影、書籍、小組、相冊、東西等爬蟲集

QQSpider

https://github.com/LiuXingMing/QQSpider

QQ空間爬蟲，包括日誌、說說、我的信息等，一天可抓取 400 萬條數據。