23個Python爬蟲開源項目代碼，包含微信、淘寶、豆瓣、知乎、微博等

時間 2019-11-09

標籤 python 爬蟲開源項目代碼包含微信淘寶豆瓣微博欄目 Python 简体版

原文原文鏈接

今天爲你們整理了23個Python爬蟲項目。整理的緣由是，爬蟲入門簡單快速，也很是適合新入門的小夥伴培養信心，全部連接指向GitHub，微信不能直接打開，老規矩，能夠用電腦打開。前端

關注公衆號「Python專欄」，後臺回覆：爬蟲書籍，獲取2本Python爬蟲相關電子書。python

1. WechatSogou – 微信公衆號爬蟲

基於搜狗微信搜索的微信公衆號爬蟲接口，能夠擴展成基於搜狗搜索的爬蟲，返回結果是列表，每一項均是公衆號具體信息字典。git

github地址：github

https://github.com/Chyroc/WechatSogouweb

2. DouBanSpider – 豆瓣讀書爬蟲

能夠爬下豆瓣讀書標籤下的全部圖書，按評分排名依次存儲，存儲到Excel中，可方便你們篩選蒐羅，好比篩選評價人數>1000的高分書籍；可依據不一樣的主題存儲到Excel不一樣的Sheet ，採用User Agent假裝爲瀏覽器進行爬取，並加入隨機延時來更好的模仿瀏覽器行爲，避免爬蟲被封。redis

github地址：mongodb

https://github.com/lanbing510/DouBanSpiderbootstrap

3. zhihu_spider – 知乎爬蟲

此項目的功能是爬取知乎用戶信息以及人際拓撲關係，爬蟲框架使用scrapy，數據存儲使用mongowindows

github地址：瀏覽器

https://github.com/LiuRoy/zhihu_spider

4. bilibili-user – Bilibili用戶爬蟲

總數據數：20119918，抓取字段：用戶id，暱稱，性別，頭像，等級，經驗值，粉絲數，生日，地址，註冊時間，簽名，等級與經驗值等。抓取以後生成B站用戶數據報告。

github地址：

https://github.com/airingursb/bilibili-user

5. SinaSpider – 新浪微博爬蟲

主要爬取新浪微博用戶的我的信息、微博信息、粉絲和關注。代碼獲取新浪微博Cookie進行登陸，可經過多帳號登陸來防止新浪的反扒。主要使用 scrapy 爬蟲框架。

github地址：

https://github.com/LiuXingMing/SinaSpider

6. distribute_crawler – 小說下載分佈式爬蟲

使用scrapy,Redis, MongoDB,graphite實現的一個分佈式網絡爬蟲,底層存儲MongoDB集羣,分佈式使用Redis實現,爬蟲狀態顯示使用graphite實現，主要針對一個小說站點。

github地址：

https://github.com/gnemoug/distribute_crawler

7. CnkiSpider – 中國知網爬蟲。

設置檢索條件後，執行src/CnkiSpider.py抓取數據，抓取數據存儲在/data目錄下，每一個數據文件的第一行爲字段名稱。

github地址：

https://github.com/yanzhou/CnkiSpider

8. LianJiaSpider – 鏈家網爬蟲。

爬取北京地區鏈家歷年二手房成交記錄。涵蓋鏈家爬蟲一文的所有代碼，包括鏈家模擬登陸代碼。

github地址：

https://github.com/lanbing510/LianJiaSpider

9. scrapy_jingdong – 京東爬蟲。

基於scrapy的京東網站爬蟲，保存格式爲csv。

github地址：

https://github.com/taizilongxu/scrapy_jingdong

10. QQ-Groups-Spider – QQ 羣爬蟲。

批量抓取 QQ 羣信息，包括羣名稱、羣號、羣人數、羣主、羣簡介等內容，最終生成 XLS(X) / CSV 結果文件。

github地址：

https://github.com/caspartse/QQ-Groups-Spider

11. wooyun_public - 烏雲爬蟲。

烏雲公開漏洞、知識庫爬蟲和搜索。所有公開漏洞的列表和每一個漏洞的文本內容存在MongoDB中，大概約2G內容；若是整站爬所有文本和圖片做爲離線查詢，大概須要10G空間、2小時（10M電信帶寬）；爬取所有知識庫，總共約500M空間。漏洞搜索使用了Flask做爲web server，bootstrap做爲前端。

https://github.com/hanc00l/wooyun_public