python用BeautifulSoup庫簡單爬蟲入門+案例（爬取妹子圖）

一、from bs4 import BeautifulSoup

#導入庫

二、請求頭herders

headers={'User-Agent': 'Mozilla/5.0 (Windows NT 6.3; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/57.0.2987.110 Safari/537.36','referer':"www.mmjpg.com" }
all_url = 'http://www.mmjpg.com/' 
'User-Agent':請求方式  
'referer':從哪一個連接跳轉進來的

三、創建鏈接

start_html = requests.get(all_url,  headers=headers)
all_url：起始的地址，也就是訪問的第一個頁面
headers：請求頭，告訴服務器是誰來了。
requests.get：一個方法能獲取all_url的頁面內容而且返回內容。

四、解析獲取的頁面

Soup = BeautifulSoup(start_html.text, 'lxml')
BeautifulSoup：解析頁面
lxml：解析器
start_html.text：頁面的內容

五、處理獲取的頁面

all_a = Soup.find('div', class_='pic').find_all('a')[-2]
Soup.find（）查找某一個
find_all（）查找全部的，返回一個列表
.find('img')['src']    ：獲取img的src連接屬性    
class__:獲取目標的類名
div/a:類型條件爲div/a的
[-2]能夠用來去掉最後多匹配的標籤，這裏表示去掉最後兩個a標籤

六、獲取目標內容

<a href =# >內容</a>
a[i]/get_text():獲取第i個a標籤裏面的內容

七、可能用到的其餘功能介紹：

一、文件夾建立與切換

os.makedirs(os.path.join("E:\name", filename))
#在目錄E:\name下建立名爲filename的文件夾
os.chdir("E:\name\\" + filename)
#切換工做路徑到E:\name\filename下

二、文件保存

f = open(name+'.jpg', 'ab')##寫入多媒體文件必需要 b 這個參數！
f.write(img.content) ##多媒體文件要是用conctent！
f.close()

案例：爬取妹紙圖

import requests
from bs4 import BeautifulSoup
import os
#導入所須要的模塊
class mzitu():
    def all_url(self, url):
        html = self.request(url)##
        all_a = BeautifulSoup(html.text, 'lxml').find('div', class_='all').find_all('a')
        for a in all_a:
            title = a.get_text()
            print('------開始保存：', title) 
            path = str(title).replace("?", '_') ##替換掉帶有的？
            self.mkdir(path) ##調用mkdir函數建立文件夾！這兒path表明的是標題title
            href = a['href']
            self.html(href) 

    def html(self, href):   ##得到圖片的頁面地址
        html = self.request(href)
        max_span = BeautifulSoup(html.text, 'lxml').find('div', class_='pagenavi').find_all('span')[-2].get_text()
        #這個上面有提到
        for page in range(1, int(max_span) + 1):
            page_url = href + '/' + str(page)
            self.img(page_url) ##調用img函數

    def img(self, page_url): ##處理圖片頁面地址得到圖片的實際地址
        img_html = self.request(page_url)
        img_url = BeautifulSoup(img_html.text, 'lxml').find('div', class_='main-image').find('img')['src']
        self.save(img_url)

    def save(self, img_url): ##保存圖片
        name = img_url[-9:-4]
        img = self.request(img_url)
        f = open(name + '.jpg', 'ab')
        f.write(img.content)
        f.close()

    def mkdir(self, path): ##建立文件夾
        path = path.strip()
        isExists = os.path.exists(os.path.join("E:\mzitu2", path))
        if not isExists:
            print('建了一個名字叫作', path, '的文件夾！')
            os.makedirs(os.path.join("E:\mzitu2", path))
            os.chdir(os.path.join("E:\mzitu2", path)) ##切換到目錄
            return True
        else:
            print( path, '文件夾已經存在了！')
            return False

    def request(self, url): ##這個函數獲取網頁的response 而後返回
        headers = {
            'User-Agent': 'Mozilla/5.0 (Windows NT 6.3; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/57.0.2987.110 Safari/537.36',
            'referer':#僞造一個訪問來源 "http://www.mzitu.com/100260/2"
        }
        content = requests.get(url, headers=headers)
        return content
#設置啓動函數
def main():
    Mzitu = mzitu() ##實例化
    Mzitu.all_url('http://www.mzitu.com/all') ##給函數all_url傳入參數  

main()