【轉】爬蟲入門一

1. 基本的爬蟲工做原理
2. 基本的http抓取工具，scrapy
3. Bloom Filter: 大規模數據處理利器(爬蟲判重)
4. 若是須要大規模網頁抓取，你須要學習分佈式爬蟲的概念。其實沒那麼玄乎，你只要學會怎樣維護一個全部集羣機器可以有效分享的分佈式隊列就好。最簡單的實現是python-rq: https://github.com/nvie/rq
5. rq和Scrapy的結合：darkrho/scrapy-redis · GitHub
6. 後續處理，網頁析取(grangier/python-goose · GitHub)，存儲(Mongodb)

 

怎樣對鏈接進行判重？

Bloom Filter. 簡單講它仍然是一種hash的方法，可是它的特色是，它可使用固定的內存（不隨url的數量而增加）以O(1)的效率斷定url是否已經在set中。惋惜天下沒有白吃的午飯，它的惟一問題在於，若是這個url不在set中，BF能夠100%肯定這個url沒有看過。可是若是這個url在set中，它會告訴你：這個url應該已經出現過，不過我有2%的不肯定性。注意這裏的不肯定性在你分配的內存足夠大的時候，能夠變得很小不多。一個簡單的教程:Bloom Filters by Example

集羣化抓取
        爬取豆瓣的時候，我總共用了100多臺機器晝夜不停地運行了一個月。想象若是隻用一臺機子你就得運行100個月了...那麼，假設你如今有100臺機器能夠用，怎麼用python實現一個分佈式的爬取算法呢？
        咱們把這100臺中的99臺運算能力較小的機器叫做slave，另一臺較大的機器叫做master，那麼回顧上面代碼中的url_queue，若是咱們能把這個queue放到這臺master機器上，全部的slave均可以經過網絡跟master聯通，每當一個slave完成下載一個網頁，就向master請求一個新的網頁來抓取。而每次slave新抓到一個網頁，就把這個網頁上全部的連接送到master的queue裏去。一樣，bloom filter也放到master上，可是如今master只發送肯定沒有被訪問過的url給slave。Bloom Filter放到master的內存裏，而被訪問過的url放到運行在master上的Redis裏，這樣保證全部操做都是O(1)。（至少平攤是O(1)，Redis的訪問效率見:LINSERT – Redis)  考慮如何用python實現：
在各臺slave上裝好scrapy，那麼各臺機子就變成了一臺有抓取能力的slave，在master上裝好Redis和rq用做分佈式隊列。

#主、從代碼因而寫成

#slave.py

current_url = request_from_master()
to_send = []
for next_url in extract_urls(current_url):
    to_send.append(next_url)

store(current_url);
send_to_master(to_send)


#master.py
distributed_queue = DistributedQueue()
bf = BloomFilter()

initial_pages = "www.renmingribao.com"

while(True):
    if request == 'GET':
        if distributed_queue.size()>0:
            send(distributed_queue.get())
        else:
            break
    elif request == 'POST':
        bf.put(request.url)

以上簡要示例的具體開源項目：darkrho/scrapy-redis · GitHub

展望及後處理
雖然上面用不少「簡單」，可是真正要實現一個商業規模可用的爬蟲並非一件容易的事。上面的代碼用來爬一個總體的網站幾乎沒有太大的問題。可是若是附加上你須要這些後續處理，好比

1. 有效地存儲（數據庫應該怎樣安排）
2. 有效地判重（這裏指網頁判重，不是上文的連接判重，咱可不想把人民日報和抄襲它的大民日報都爬一遍）
3. 有效地信息抽取（好比怎麼樣抽取出網頁上全部的地址抽取出來，「朝陽區奮進路中華道」），搜索引擎一般不須要存儲全部的信息，好比圖片我存來幹嗎...
4. 及時更新（預測這個網頁多久會更新一次）

做者：謝科
連接：https://www.zhihu.com/question/20899988/answer/24923424
來源：知乎
著做權歸做者全部，轉載請聯繫做者得到受權。