Python爬蟲實戰：批量下載網站圖片

前言

本文的文字及圖片來源於網絡,僅供學習、交流使用,不具備任何商業用途,版權歸原做者全部,若有問題請及時聯繫咱們以做處理。

做者： GitPython

PS：若有須要Python學習資料的小夥伴能夠加點擊下方連接自行獲取

http://note.youdao.com/noteshare?id=3054cce4add8a909e784ad934f956cef

1.獲取圖片的url連接

首先，打開百度圖片首頁，注意下圖url中的index

接着，把頁面切換成傳統翻頁版（flip），由於這樣有利於咱們爬取圖片！

對比了幾個url發現，pn參數是請求到的數量。經過修改pn參數，觀察返回的數據，發現每頁最多隻能是60個圖片。

注：gsm參數是pn參數的16進製表達，去掉無妨

而後，右鍵檢查網頁源代碼，直接（ctrl+F）搜索 objURL

這樣，咱們發現了須要圖片的url了。

2.把圖片連接保存到本地

如今，咱們要作的就是將這些信息爬取出來。

注：網頁中有objURL，hoverURL…可是咱們用的是objURL，由於這個是原圖

那麼，如何獲取objURL？用正則表達式！

那咱們該如何用正則表達式實現呢？其實只須要一行代碼…

results = re.findall('"objURL":"(.*?)",', html) 

 

核心代碼：

1.獲取圖片url代碼：

 1 # 獲取圖片url鏈接
 2 def get_parse_page(pn,name):
 3 ​
 4     for i in range(int(pn)):
 5         # 1.獲取網頁
 6         print('正在獲取第{}頁'.format(i+1))
 7 ​
 8         # 百度圖片首頁的url
 9         # name是你要搜索的關鍵詞
10         # pn是你想下載的頁數
11 ​
12         url = 'https://image.baidu.com/search/flip?tn=baiduimage&ie=utf-8&word=%s&pn=%d' %(name,i*20)
13 ​
14         headers = {
15             'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/53.0.2785.104 Safari/537.36 Core/1.53.4843.400 QQBrowser/9.7.13021.400'}
16 ​
17         # 發送請求，獲取相應
18         response = requests.get(url, headers=headers)
19         html = response.content.decode()
20         # print(html)
21 ​
22         # 2.正則表達式解析網頁
23         # "objURL":"http://n.sinaimg.cn/sports/transform/20170406/dHEk-fycxmks5842687.jpg"
24         results = re.findall('"objURL":"(.*?)",', html) # 返回一個列表
25 ​
26         # 根據獲取到的圖片連接，把圖片保存到本地
27         save_to_txt(results, name, i)

2.保存圖片到本地代碼：

 1 # 保存圖片到本地
 2 def save_to_txt(results, name, i):
 3 ​
 4     j = 0
 5     # 在當目錄下建立文件夾
 6     if not os.path.exists('./' + name):
 7         os.makedirs('./' + name)
 8 ​
 9     # 下載圖片
10     for result in results:
11         print('正在保存第{}個'.format(j))
12         try:
13             pic = requests.get(result, timeout=10)
14             time.sleep(1)
15         except:
16             print('當前圖片沒法下載')
17             j += 1
18             continue
19 ​
20         # 可忽略，這段代碼有bug
21         # file_name = result.split('/')
22         # file_name = file_name[len(file_name) - 1]
23         # print(file_name)
24         #
25         # end = re.search('(.png|.jpg|.jpeg|.gif)$', file_name)
26         # if end == None:
27         #     file_name = file_name + '.jpg'
28 ​
29         # 把圖片保存到文件夾
30         file_full_name = './' + name + '/' + str(i) + '-' + str(j) + '.jpg'
31         with open(file_full_name, 'wb') as f：
32             f.write(pic.content)
33 ​
34         j += 1

 

3.主函數代碼：

1 # 主函數
2 if __name__ == '__main__':
3 ​
4     name = input('請輸入你要下載的關鍵詞：')
5     pn = input('你想下載前幾頁（1頁有60張）:')
6     get_parse_page(pn, 

使用說明：

1 # 配置如下模塊
2 import requests 
3 import re
4 import os
5 import time
6 ​
7 # 1.運行 py源文件
8 # 2.輸入你想搜索的關鍵詞，好比「柯基」、「泰迪」等
9 # 3.輸入你想下載的頁數，好比5，那就是下載 5 x 60=300 張圖片