Python爬蟲 （抓取圖片）

one.python 爬蟲抓圖片

 

一，獲取整個頁面數據

 

首先咱們能夠先獲取要下載圖片的整個頁面信息。

getjpg.py

#coding=utf-8
import urllib

def getHtml(url):
    page = urllib.urlopen(url)
    html = page.read()
    return html

html = getHtml("http://tieba.baidu.com/p/2738151262")

print html

　　Urllib 模塊提供了讀取web頁面數據的接口，咱們能夠像讀取本地文件同樣讀取www和ftp上的數據。首先，咱們定義了一個getHtml()函數:

　　urllib.urlopen()方法用於打開一個URL地址。

　　read()方法用於讀取URL上的數據，向getHtml()函數傳遞一個網址，並把整個頁面下載下來。執行程序就會把整個網頁打印輸出。

 二，篩選頁面中想要的數據

 

　　Python 提供了很是強大的正則表達式，咱們須要先要了解一點python 正則表達式的知識才行。

http://www.cnblogs.com/fnng/archive/2013/05/20/3089816.html

 

假如咱們百度貼吧找到了幾張漂亮的壁紙，經過到前段查看工具。找到了圖片的地址，如：src=」http://imgsrc.baidu.com/forum......jpg」pic_ext=」jpeg」

修改代碼以下：

import re
import urllib

def getHtml(url):
    page = urllib.urlopen(url)
    html = page.read()
    return html

def getImg(html):
    reg = r'src="(.+?\.jpg)" pic_ext'
    imgre = re.compile(reg)
    imglist = re.findall(imgre,html)
    return imglist      
   
html = getHtml("http://tieba.baidu.com/p/2460150866")
print getImg(html)

　　咱們又建立了getImg()函數，用於在獲取的整個頁面中篩選須要的圖片鏈接。re模塊主要包含了正則表達式：

　　re.compile() 能夠把正則表達式編譯成一個正則表達式對象.

　　re.findall() 方法讀取html 中包含 imgre（正則表達式）的數據。

 　　 運行腳本將獲得整個頁面中包含圖片的URL地址。

三，將頁面篩選的數據保存到本地

 

把篩選的圖片地址經過for循環遍歷並保存到本地，代碼以下：

 

#coding=utf-8
import urllib
import re

def getHtml(url):
    page = urllib.urlopen(url)
    html = page.read()
    return html

def getImg(html):
    reg = r'src="(.+?\.jpg)" pic_ext'
    imgre = re.compile(reg)
    imglist = re.findall(imgre,html)
    x = 0
    for imgurl in imglist:
        urllib.urlretrieve(imgurl,'%s.jpg' % x)
        x+=1


html = getHtml("http://tieba.baidu.com/p/2460150866")

print getImg(html)

 

　　這裏的核心是用到了urllib.urlretrieve()方法，直接將遠程數據下載到本地。

　　經過一個for循環對獲取的圖片鏈接進行遍歷，爲了使圖片的文件名看上去更規範，對其進行重命名，命名規則經過x變量加1。保存的位置默認爲程序的存放目錄。

程序運行完成，將在目錄下看到下載到本地的文件。

 

1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 #coding=utf-8   import  urllib import  re   def  downloadPage(url):      h  =  urllib.urlopen(url)      return  h.read()   def  downloadImg(content):      pattern  =  r 'src="(.+?\.jpg)" pic_ext'      m  =  re. compile (pattern)      urls  =  re.findall(m, content)        for  i, url  in  enumerate (urls):          urllib.urlretrieve(url,  "%s.jpg"  %  (i, ))   content  =  downloadPage( "http://tieba.baidu.com/p/2460150866" ) downloadImg(content)