32個Python爬蟲項目讓你一次吃到撐
今天爲你們整理了32個Python爬蟲項目。
整理的緣由是，爬蟲入門簡單快速，也很是適合新入門的小夥伴培養信心。全部連接指向GitHub，祝你們玩的愉快~O(∩_∩)Ohtml
WechatSogou [1]- 微信公衆號爬蟲。基於搜狗微信搜索的微信公衆號爬蟲接口，能夠擴展成基於搜狗搜索的爬蟲，返回結果是列表，每一項均是公衆號具體信息字典。前端
DouBanSpider [2]- 豆瓣讀書爬蟲。能夠爬下豆瓣讀書標籤下的全部圖書，按評分排名依次存儲，存儲到Excel中，可方便你們篩選蒐羅，好比篩選評價人數>1000的高分書籍；可依據不一樣的主題存儲到Excel不一樣的Sheet ，採用User Agent假裝爲瀏覽器進行爬取，並加入隨機延時來更好的模仿瀏覽器行爲，避免爬蟲被封。python
zhihu_spider [3]- 知乎爬蟲。此項目的功能是爬取知乎用戶信息以及人際拓撲關係，爬蟲框架使用scrapy，數據存儲使用mongogit
bilibili-user [4]- Bilibili用戶爬蟲。總數據數：20119918，抓取字段：用戶id，暱稱，性別，頭像，等級，經驗值，粉絲數，生日，地址，註冊時間，簽名，等級與經驗值等。抓取以後生成B站用戶數據報告。github
SinaSpider [5]- 新浪微博爬蟲。主要爬取新浪微博用戶的我的信息、微博信息、粉絲和關注。代碼獲取新浪微博Cookie進行登陸，可經過多帳號登陸來防止新浪的反扒。主要使用 scrapy 爬蟲框架。web
distribute_crawler [6]- 小說下載分佈式爬蟲。使用scrapy,Redis, MongoDB,graphite實現的一個分佈式網絡爬蟲,底層存儲MongoDB集羣,分佈式使用Redis實現,爬蟲狀態顯示使用graphite實現，主要針對一個小說站點。redis
CnkiSpider [7]- 中國知網爬蟲。設置檢索條件後，執行src/CnkiSpider.py抓取數據，抓取數據存儲在/data目錄下，每一個數據文件的第一行爲字段名稱。mongodb
LianJiaSpider [8]- 鏈家網爬蟲。爬取北京地區鏈家歷年二手房成交記錄。涵蓋鏈家爬蟲一文的所有代碼，包括鏈家模擬登陸代碼。bootstrap
scrapy_jingdong [9]- 京東爬蟲。基於scrapy的京東網站爬蟲，保存格式爲csv。windows
QQ-Groups-Spider [10]- QQ 羣爬蟲。批量抓取 QQ 羣信息，包括羣名稱、羣號、羣人數、羣主、羣簡介等內容，最終生成 XLS(X) / CSV 結果文件。
wooyun_public[11]-烏雲爬蟲。 烏雲公開漏洞、知識庫爬蟲和搜索。所有公開漏洞的列表和每一個漏洞的文本內容存在MongoDB中，大概約2G內容；若是整站爬所有文本和圖片做爲離線查詢，大概須要10G空間、2小時（10M電信帶寬）；爬取所有知識庫，總共約500M空間。漏洞搜索使用了Flask做爲web server，bootstrap做爲前端。
spider[12]- hao123網站爬蟲。以hao123爲入口頁面，滾動爬取外鏈，收集網址，並記錄網址上的內鏈和外鏈數目，記錄title等信息，windows7 32位上測試，目前每24個小時，可收集數據爲10萬左右
findtrip [13]- 機票爬蟲（去哪兒和攜程網）。Findtrip是一個基於Scrapy的機票爬蟲，目前整合了國內兩大機票網站（去哪兒 + 攜程）。
163spider [14] - 基於requests、MySQLdb、torndb的網易客戶端內容爬蟲
doubanspiders[15]- 豆瓣電影、書籍、小組、相冊、東西等爬蟲集
QQSpider [16]- QQ空間爬蟲，包括日誌、說說、我的信息等，一天可抓取 400 萬條數據。
baidu-music-spider [17]- 百度mp3全站爬蟲，使用redis支持斷點續傳。
tbcrawler[18]- 淘寶和天貓的爬蟲,能夠根據搜索關鍵詞,物品id來抓去頁面的信息，數據存儲在mongodb。
stockholm [19]- 一個股票數據（滬深）爬蟲和選股策略測試框架。根據選定的日期範圍抓取全部滬深兩市股票的行情數據。支持使用表達式定義選股策略。支持多線程處理。保存數據到JSON文件、CSV文件。
BaiduyunSpider[20]-百度雲盤爬蟲。
Spider[21]-社交數據爬蟲。支持微博,知乎,豆瓣。
proxy pool[22]-Python爬蟲代理IP池(proxy pool)。
music-163[23]-爬取網易雲音樂全部歌曲的評論。
jandan_spider[24]-爬取煎蛋妹紙圖片。
CnblogsSpider[25]-cnblogs列表頁爬蟲。
spider_smooc[26]-爬取慕課網視頻。
CnkiSpider[27]-中國知網爬蟲。
knowsecSpider2[28]-知道創宇爬蟲題目。
aiss-spider[29]-愛絲APP圖片爬蟲。
SinaSpider[30]-動態IP解決新浪的反爬蟲機制，快速抓取內容。
csdn-spider[31]-爬取CSDN上的博客文章。
ProxySpider[32]-爬取西刺上的代理IP，並驗證代理可用性