最好用的Python爬蟲推薦

時間 2019-11-17

原文原文鏈接

關注菜鳥窩官網免費領取200套開源項目，運營微信號：yrioyou前端

剛從github上搜來19個經常使用的Python爬蟲，技多不壓身，以爲好用就收藏。git

1.微信公衆號爬蟲github

GitHub：github.com/Chyroc/Wech…
基於搜狗微信搜索的微信公衆號爬蟲接口，能夠擴展成基於搜狗搜索的爬蟲，返回結果是列表，每一項均是公衆號具體信息字典。web

2.豆瓣讀書爬蟲redis

GitHub：github.com/lanbing510/…
能夠爬下豆瓣讀書標籤下的全部圖書，按評分排名依次存儲，存儲到Excel中，可方便你們篩選蒐羅，好比篩選評價人數>1000的高分書籍；可依據不一樣的主題存儲到Excel不一樣的Sheet ，採用User Agent假裝爲瀏覽器進行爬取，並加入隨機延時來更好的模仿瀏覽器行爲，避免爬蟲被封。mongodb

3.知乎爬蟲bootstrap

GitHub：github.com/LiuRoy/zhih…
此項目的功能是爬取知乎用戶信息以及人際拓撲關係，爬蟲框架使用scrapy，數據存儲使用mongowindows

4.Bilibili用戶爬蟲瀏覽器

GitHub：github.com/airingursb/…
總數據數：20119918，抓取字段：用戶id，暱稱，性別，頭像，等級，經驗值，粉絲數，生日，地址，註冊時間，簽名，等級與經驗值等。抓取以後生成B站用戶數據報告。微信

5.新浪微博爬蟲
GitHub：github.com/LiuXingMing…
主要爬取新浪微博用戶的我的信息、微博信息、粉絲和關注。代碼獲取新浪微博Cookie進行登陸，可經過多帳號登陸來防止新浪的反扒。主要使用 scrapy 爬蟲框架。

6.小說下載分佈式爬蟲

GitHub：github.com/gnemoug/dis…
使用scrapy,Redis, MongoDB,graphite實現的一個分佈式網絡爬蟲,底層存儲MongoDB集羣,分佈式使用Redis實現,爬蟲狀態顯示使用graphite實現，主要針對一個小說站點。

7.中國知網爬蟲
GitHub：github.com/yanzhou/Cnk…
設置檢索條件後，執行src/CnkiSpider.py抓取數據，抓取數據存儲在/data目錄下，每一個數據文件的第一行爲字段名稱。

8.鏈家網爬蟲

GitHub：github.com/lanbing510/…
爬取北京地區鏈家歷年二手房成交記錄。涵蓋鏈家爬蟲一文的所有代碼，包括鏈家模擬登陸代碼。

9.京東爬蟲

GitHub：github.com/taizilongxu…
基於scrapy的京東網站爬蟲，保存格式爲csv。

10.QQ 羣爬蟲

GitHub：github.com/caspartse/Q…
批量抓取 QQ 羣信息，包括羣名稱、羣號、羣人數、羣主、羣簡介等內容，最終生成 XLS(X) / CSV 結果文件。

11.烏雲爬蟲

GitHub：github.com/hanc00l/woo…
烏雲公開漏洞、知識庫爬蟲和搜索。所有公開漏洞的列表和每一個漏洞的文本內容存在MongoDB中，大概約2G內容；若是整站爬所有文本和圖片做爲離線查詢，大概須要10G空間、2小時（10M電信帶寬）；爬取所有知識庫，總共約500M空間。漏洞搜索使用了Flask做爲web server，bootstrap做爲前端。

12.hao123網站爬蟲

GitHub：github.com/buckyrobert…
以hao123爲入口頁面，滾動爬取外鏈，收集網址，並記錄網址上的內鏈和外鏈數目，記錄title等信息，windows7 32位上測試，目前每24個小時，可收集數據爲10萬左右。

13.機票爬蟲（去哪兒和攜程網）

GitHub：github.com/fankcoder/f…
Findtrip是一個基於Scrapy的機票爬蟲，目前整合了國內兩大機票網站（去哪兒 + 攜程）。

14.基於requests、MySQLdb、torndb的網易客戶端內容爬蟲

GitHub：github.com/leyle/163sp…

15.豆瓣電影、書籍、小組、相冊、東西等爬蟲集

GitHub：github.com/fanpei91/do…

16.QQ空間爬蟲

GitHub：github.com/LiuXingMing…
包括日誌、說說、我的信息等，一天可抓取 400 萬條數據。

17.百度mp3全站爬蟲，使用redis支持斷點續傳。

GitHub：github.com/Shu-Ji/baid…