多線程網頁爬蟲 python 實現

採用了多線程和鎖機制，實現了廣度優先算法的網頁爬蟲。

 對於一個網絡爬蟲，若是要按廣度遍歷的方式下載，它就是這樣幹活的：
        1.從給定的入口網址把第一個網頁下載下來
        2.從第一個網頁中提取出全部新的網頁地址，放入下載列表中
        3.按下載列表中的地址，下載全部新的網頁
        4.從全部新的網頁中找出沒有下載過的網頁地址，更新下載列表
        5.重複三、4兩步，直到更新後的下載列表爲空表時中止

python實現代碼以下：

#!/usr/bin/env python
#coding=utf-8
import threading
import urllib
import re
import time

g_mutex=threading.Condition()
g_pages=[]  #從中解析全部url連接
g_queueURL=[]  #等待爬取的url連接列表
g_existURL=[]  #已經爬取過的url連接列表
g_failedURL=[] #下載失敗的url連接列表
g_totalcount=0 #下載過的頁面數

class Crawler:
    def __init__(self,crawlername,url,threadnum):
        self.crawlername=crawlername
        self.url=url
        self.threadnum=threadnum
        self.threadpool=[]
        self.logfile=file("log.txt",'w')
    def craw(self):
        global g_queueURL
        g_queueURL.append(url)    
        depth=0
        print self.crawlername+" 啓動..."
        while(len(g_queueURL)!=0):
            depth+=1
            print 'Searching depth ',depth,'...\n\n'
            self.logfile.write("URL:"+g_queueURL[0]+"........")
            self.downloadAll()
            self.updateQueueURL()
            content='\n>>>Depth '+str(depth)+':\n'
            self.logfile.write(content)
            i=0
            while i<len(g_queueURL):
                content=str(g_totalcount+i)+'->'+g_queueURL[i]+'\n'
                self.logfile.write(content)
                i+=1
    def downloadAll(self):
        global g_queueURL
        global g_totalcount
        i=0
        while i<len(g_queueURL):
            j=0
            while j<self.threadnum and i+j < len(g_queueURL):
                g_totalcount+=1
                threadresult=self.download(g_queueURL[i+j],str(g_totalcount)+'.html',j)
                if threadresult!=None:
                    print 'Thread started:',i+j,'--File number =',g_totalcount
                j+=1
            i+=j
            for thread in self.threadpool:
                thread.join(30)
            threadpool=[]
        g_queueURL=[]
    def download(self,url,filename,tid):
        crawthread=CrawlerThread(url,filename,tid)
        self.threadpool.append(crawthread)
        crawthread.start()
    def updateQueueURL(self):
        global g_queueURL
        global g_existURL
        newUrlList=[]
        for content in g_pages:
            newUrlList+=self.getUrl(content)
        g_queueURL=list(set(newUrlList)-set(g_existURL))    
    def getUrl(self,content):
        reg=r'"(http://.+?)"'
        regob=re.compile(reg,re.DOTALL)
        urllist=regob.findall(content)
        return urllist

class CrawlerThread(threading.Thread):
    def __init__(self,url,filename,tid):
        threading.Thread.__init__(self)
        self.url=url
        self.filename=filename
        self.tid=tid
    def run(self):
        global g_mutex
        global g_failedURL
        global g_queueURL
        try:
            page=urllib.urlopen(self.url)
            html=page.read()
            fout=file(self.filename,'w')
            fout.write(html)
            fout.close()
        except Exception,e:
            g_mutex.acquire()
            g_existURL.append(self.url)
            g_failedURL.append(self.url)
            g_mutex.release()
            print 'Failed downloading and saving',self.url
            print e
            return None
        g_mutex.acquire()
        g_pages.append(html)
        g_existURL.append(self.url)
        g_mutex.release()
    

if __name__=="__main__":
    url=raw_input("請輸入url入口:\n")
    threadnum=int(raw_input("設置線程數:"))
    crawlername="小小爬蟲"
    crawler=Crawler(crawlername,url,threadnum)
    crawler.craw()