今天在瀏覽網頁時,看到一篇頗有意思的文章,關於網絡爬蟲的。該文章是講述如何利用request爬取英雄聯盟官網皮膚圖片。看過文章後以爲挺有用的,把代碼拿過來運行了一下,果然爬取成功。下面給你們分享一下代碼。html
首先得利用cmd命令指示符安裝requests庫,json,re,time。web
安裝完成後,第一步是獲取英雄ID從而爲先面判決URL做準備。正則表達式
def getLOLImages(): header = {'User-Agent':'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/67.0.3396.62 Safari/537.36'} url_js = 'http://lol.qq.com/biz/hero/champion.js' #獲取JS源代碼 Str bytes res_js = requests.get(url_js).content #轉碼 轉成字符串 html_js = res_js.decode() #正則表達式 req = '"keys":(.*?),"data"' list_js = re.findall(req,html_js) #轉成dict dict_js = json.loads(list_js[0]) # print(type(dict_js)) #定義圖片列表 pic_list = [] for key in dict_js: # print(key)#英雄ID
第二步就是拼接URL了,經過發現英雄皮膚url的取名方式,咱們能夠方向最後的數字是不一樣的。讓後經過此方法來獲取圖片地址。json
for i in range(20): number = str(i) if len(number) == 1: hero_num = "00"+number elif len(number) == 2: hero_num = "0"+number numstr = key+hero_num url = "http://ossweb-img.qq.com/images/lol/web201310/skin/big"+numstr+".jpg" #http://ossweb-img.qq.com/images/lol/web201310/skin/big81000.jpg pic_list.append(url)
第三步是獲取圖片名稱,path那行是放置圖片的地址,注意結尾的\\不能丟。網絡
list_filepath = [] path = "D:\Pycharmdaima\Pachong\LOLTU\\" for name in dict_js.values(): for i in range(20): file_path = path+name+str(i)+'.jpg' list_filepath.append(file_path)
第四步就是下載圖片了。app
n = 0 for picurl in pic_list: res = requests.get(picurl) n += 1 #獲取狀態碼 if res.status_code == 200: print("正在下載%s"%list_filepath[n]) time.sleep(1) with open(list_filepath[n],'wb') as f: f.write(res.content)
最後,調用一下getLOLImages()方法curl
getLOLImages()
注意,我第一次用了源碼,後來發現運行太慢,檢查一下源碼後發現代碼末尾調用了一個time.sleep()方法。這樣是爲了限制爬取速度,避免速度過快被網站發現而中斷。通過調試,我中途暫停代碼運行,將sleep()方法註釋掉,爬取速度果真加快,並且沒有中斷。網站
下面是個人爬取成果:url