python 圖片爬蟲抓取圖片系列一——爬取指定網頁中的圖片

 

來自 《Python項目案例開發從入門到實戰》（清華大學出版社 鄭秋生 夏敏捷主編）中爬蟲應用——抓取百度圖片

想要爬取指定網頁中的圖片主要須要如下三個步驟：

（1）指定網站連接，抓取該網站的源代碼（若是使用google瀏覽器就是按下鼠標右鍵 -> Inspect-> Elements 中的 html 內容）

（2）根據你要抓取的內容設置正則表達式以匹配要抓取的內容

（3）設置循環列表，重複抓取和保存內容

如下介紹了兩種方法實現抓取指定網頁中圖片

（1）方法一：使用正則表達式過濾抓到的 html 內容字符串

 1 # 第一個簡單的爬取圖片的程序
 2 import urllib.request  # python自帶的爬操做url的庫
 3 import re  # 正則表達式
 4 
 5 
 6 # 該方法傳入url,返回url的html的源代碼
 7 def getHtmlCode(url):  8     # 如下幾行註釋的代碼在本程序中有加沒加效果同樣,可是爲了隱藏本身避免被反爬蟲能夠假如這個假裝的頭部請求
 9     headers = { 10         'User-Agent': 'Mozilla/5.0(Linux; Android 6.0; Nexus 5 Build/MRA58N) \ 11  AppleWebKit/537.36(KHTML, like Gecko) Chrome/56.0.2924.87 Mobile Safari/537.36'
12  } 13     # 將headers頭部添加到url，模擬瀏覽器訪問
14     url = urllib.request.Request(url, headers=headers) 15 
16     # 將url頁面的源代碼保存成字符串
17     page = urllib.request.urlopen(url).read() 18     # 字符串轉碼
19     page = page.decode('UTF-8') 20     return page 21 
22 
23 # 該方法傳入html的源代碼，經過截取其中的img標籤，將圖片保存到本機
24 def getImage(page): 25     # [^\s]*? 表示最小匹配， 兩個括號表示列表中有兩個元組
26     # imageList = re.findall(r'(https:[^\s]*?(png))"', page)
27     imageList = re.findall(r'(https:[^\s]*?(jpg|png|gif))"', page) 28     x = 0 29     # 循環列表
30     for imageUrl in imageList: 31         try: 32             print('正在下載: %s' % imageUrl[0]) 33             # 這個image文件夾須要先建立好才能看到結果
34             image_save_path = './image/%d.png' % x 35             # 下載圖片而且保存到指定文件夾中
36  urllib.request.urlretrieve(imageUrl[0], image_save_path) 37             x = x + 1
38         except: 39             continue
40 
41     pass
42 
43 
44 if __name__ == '__main__': 45     # 指定要爬取的網站
46     url = "https://www.cnblogs.com/ttweixiao-IT-program/p/13324826.html"
47     # 獲得該網站的源代碼
48     page = getHtmlCode(url) 49     # 爬取該網站的圖片而且保存
50  getImage(page) 51     # print(page)

  

注意，代碼中須要修改的就是 imageList = re.findall(r'(https:[^\s]*?(jpg|png|gif))"', page) 這一塊內容，如何設計正則表達式須要根據你想要抓取的內容設置。個人設計來源以下：

 

能夠看到，由於這個網頁上的圖片都是 png 格式，因此寫成 imageList = re.findall(r'(https:[^\s]*?(png))"', page) 也是能夠的。

 

（2）方法二：使用 BeautifulSoup 庫解析 html 網頁

 1 from bs4 import BeautifulSoup  # BeautifulSoup是python處理HTML/XML的函數庫，是Python內置的網頁分析工具
 2 import urllib  # python自帶的爬操做url的庫
 3 
 4 
 5 # 該方法傳入url,返回url的html的源代碼
 6 def getHtmlCode(url):  7     # 如下幾行註釋的代碼在本程序中有加沒加效果同樣,可是爲了隱藏本身避免被反爬蟲能夠假如這個假裝的頭部請求
 8     headers = {  9         'User-Agent': 'Mozilla/5.0(Linux; Android 6.0; Nexus 5 Build/MRA58N) \ 10  AppleWebKit/537.36(KHTML, like Gecko) Chrome/56.0.2924.87 Mobile Safari/537.36'
11  } 12     # 將headers頭部添加到url，模擬瀏覽器訪問
13     url = urllib.request.Request(url, headers=headers) 14 
15     # 將url頁面的源代碼保存成字符串
16     page = urllib.request.urlopen(url).read() 17     # 字符串轉碼
18     page = page.decode('UTF-8') 19     return page 20 
21 
22 # 該方法傳入html的源代碼，經過截取其中的img標籤，將圖片保存到本機
23 def getImage(page): 24     # 按照html格式解析頁面
25     soup = BeautifulSoup(page, 'html.parser') 26     # 格式化輸出DOM樹的內容
27     print(soup.prettify()) 28     # 返回全部包含img標籤的列表，由於在Html文件中圖片的插入呈現形式是<img src="..." alt=".." />
29     imgList = soup.find_all('img') 30     x = 0 31     # 循環找到的圖片列表，注意，這裏手動設置從第2張圖片開始，是由於我debug看到了第一張圖片不是我想要的圖片
32     for imgUrl in imgList[1:]: 33         print('正在下載： %s ' % imgUrl.get('src')) 34         # 獲得scr的內容，這裏返回的就是Url字符串連接，如'https://img2020.cnblogs.com/blog/1703588/202007/1703588-20200716203143042-623499171.png'
35         image_url = imgUrl.get('src') 36         # 這個image文件夾須要先建立好才能看到結果
37         image_save_path = './image/%d.png' % x 38         # 下載圖片而且保存到指定文件夾中
39  urllib.request.urlretrieve(image_url, image_save_path) 40         x = x + 1
41 
42 
43 if __name__ == '__main__': 44     # 指定要爬取的網站
45     url = 'https://www.cnblogs.com/ttweixiao-IT-program/p/13324826.html'
46     # 獲得該網站的源代碼
47     page = getHtmlCode(url) 48     # 爬取該網站的圖片而且保存
49     getImage(page)

 

這兩種方法各有利弊，我以爲能夠靈活結合使用這兩種方法，好比先使用方法2中指定標籤的方法縮小要尋找的內容範圍，而後再使用正則表達式匹配想要的內容，這樣作起來更加簡潔明瞭。