爬蟲 --- 04. 代理服務器, 驗證碼識別, 處理cookie,線程池

時間  2019-11-12
標籤 爬蟲 代理 服務器 驗證碼 識別 處理 cookie 線程 欄目 網絡爬蟲 简体版
原文   原文鏈接

一.代理服務器

　　1.基本概念

- 代理的網站：
    - 快代理
    - 西祠代理
    - goubanjia  (機率較高)
　　　　- 代理知識：https://help.kuaidaili.com/wiki/
- 匿名度：
    - 透明：對方服務器能夠知道你使用了代理，而且也知道你的真實IP
    - 匿名：對方服務器能夠知道你使用了代理，但不知道你的真實IP
    - 高匿：對方服務器不知道你使用了代理，更不知道你的真實IP。
- 類型：
    - http：該類型的代理ip只能夠發起http協議頭對應的請求
    - https：該類型的代理ip只能夠發起https協議頭對應的請求

 

　　2.示例

#簡單版

import requests

headers = {
    'User-Agent':'Mozilla/5.0 (Windows NT 6.1; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/70.0.3538.77 Safari/537.36'
}
url = 'https://www.baidu.com/s?wd=ip'


page_text = requests.get(url=url,headers=headers,proxies={"https":"101.80.87.77:9000"}).text

with open('./ip.html','w',encoding='utf-8') as fp:
    fp.write(page_text)

 

 

 

#升級版(減小被封的概率)

import requests
import random

https = [
    {'https':'223.19.212.30:8380'},
    {'https':'221.19.212.30:8380'}
]
http = [
    {'http':'223.19.212.30:8380'},
    {'http':'221.19.212.30:8380'}
]

headers = {
    'User-Agent':'Mozilla/5.0 (Windows NT 6.1; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/70.0.3538.77 Safari/537.36'
}
url = 'https://www.baidu.com/s?wd=ip'

if url.split(':')[0] == 'https':
    page_text = requests.get(url=url,headers=headers,proxies=random.choice(https)).text
else:
     page_text = requests.get(url=url,headers=headers,proxies=random.choice(http)).text

with open('./ip.html','w',encoding='utf-8') as fp:
    fp.write(page_text)

 

 

 二.驗證碼識別

經常使用的接口網站

　　1.雲打碼，
　　2.打碼兔，
　　3.超級鷹
雲打碼使用流程
　　http://www.yundama.com/demo.html
　　註冊：
　　　　普通用戶
　　　　開發者用戶
　　登陸：
　　　　登陸普通用戶：
　　　　　　查詢剩餘題分
　　　　登陸開發者用戶：
　　　　　　建立一個軟件：個人軟件-》建立一個新軟件（軟件名稱，祕鑰不能夠修改），使用軟件的id和祕鑰
　　　　　　下載示例代碼：開發文檔-》點此下載：雲打碼接口DLL-》PythonHTTP示例下載

 

如下代碼是下載的文件中的內容php

　　用的時候需加載html

import http.client, mimetypes, urllib, json, time, requests

######################################################################

class YDMHttp:

    apiurl = 'http://api.yundama.com/api.php'
    username = ''
    password = ''
    appid = ''
    appkey = ''

    def __init__(self, username, password, appid, appkey):
        self.username = username  
        self.password = password
        self.appid = str(appid)
        self.appkey = appkey

    def request(self, fields, files=[]):
        response = self.post_url(self.apiurl, fields, files)
        response = json.loads(response)
        return response
    
    def balance(self):
        data = {'method': 'balance', 'username': self.username, 'password': self.password, 'appid': self.appid, 'appkey': self.appkey}
        response = self.request(data)
        if (response):
            if (response['ret'] and response['ret'] < 0):
                return response['ret']
            else:
                return response['balance']
        else:
            return -9001
    
    def login(self):
        data = {'method': 'login', 'username': self.username, 'password': self.password, 'appid': self.appid, 'appkey': self.appkey}
        response = self.request(data)
        if (response):
            if (response['ret'] and response['ret'] < 0):
                return response['ret']
            else:
                return response['uid']
        else:
            return -9001

    def upload(self, filename, codetype, timeout):
        data = {'method': 'upload', 'username': self.username, 'password': self.password, 'appid': self.appid, 'appkey': self.appkey, 'codetype': str(codetype), 'timeout': str(timeout)}
        file = {'file': filename}
        response = self.request(data, file)
        if (response):
            if (response['ret'] and response['ret'] < 0):
                return response['ret']
            else:
                return response['cid']
        else:
            return -9001

    def result(self, cid):
        data = {'method': 'result', 'username': self.username, 'password': self.password, 'appid': self.appid, 'appkey': self.appkey, 'cid': str(cid)}
        response = self.request(data)
        return response and response['text'] or ''

    def decode(self, filename, codetype, timeout):
        cid = self.upload(filename, codetype, timeout)
        if (cid > 0):
            for i in range(0, timeout):
                result = self.result(cid)
                if (result != ''):
                    return cid, result
                else:
                    time.sleep(1)
            return -3003, ''
        else:
            return cid, ''

    def report(self, cid):
        data = {'method': 'report', 'username': self.username, 'password': self.password, 'appid': self.appid, 'appkey': self.appkey, 'cid': str(cid), 'flag': '0'}
        response = self.request(data)
        if (response):
            return response['ret']
        else:
            return -9001

    def post_url(self, url, fields, files=[]):
        for key in files:
            files[key] = open(files[key], 'rb');
        res = requests.post(url, files=files, data=fields)
        return res.text

 

#將示例代碼中的可執行程序封裝成函數
def transformCodeImg(imgPath,imgType):
    # 普通用戶名
    username    = 'bobo328410948'

    # 密碼
    password    = 'bobo328410948'                            

    # 軟件ＩＤ，開發者分紅必要參數。登陸開發者後臺【個人軟件】得到！
    appid       = 6003                                     

    # 軟件密鑰，開發者分紅必要參數。登陸開發者後臺【個人軟件】得到！
    appkey      = '1f4b564483ae5c907a1d34f8e2f2776c'    

    # 圖片文件
    filename    = imgPath                        

    # 驗證碼類型，# 例：1004表示4位字母數字，不一樣類型收費不一樣。請準確填寫，不然影響識別率。在此查詢全部類型 http://www.yundama.com/price.html
    codetype    = imgType

    # 超時時間，秒
    timeout     = 30                                    
    result = None
    # 檢查
    if (username == 'username'):
        print('請設置好相關參數再測試')
    else:
        # 初始化
        yundama = YDMHttp(username, password, appid, appkey)

        # 登錄雲打碼
        uid = yundama.login();
        print('uid: %s' % uid)

        # 查詢餘額
        balance = yundama.balance();
        print('balance: %s' % balance)

        # 開始識別，圖片路徑，驗證碼類型ID，超時時間（秒），識別結果
        cid, result = yundama.decode(filename, codetype, timeout);
        
    return result

 

 

 三.處理cookie

- cookie：但是使得服務器端記錄客戶端的相關狀態

- 處理cookie的方法:
　　　　-手動處理:  在hears中加入cookie,但cookie是有有效時長的
　　　　-自動處理:　使用會話對象Session
- Session的用法:
　　　　- 實例化一個會話對象: requests.Session()
　　　　- session的做用:
　　　　　　　　- 會話對象能夠進行請求發送(post,get)
　　　　　　　　-  若是在進行請求發送過程當中產生的cookie,會被自動存在session中

 

 

#需求：爬取雪球網中的新聞標題和對應的內容簡介

import requests
headers = {
 'User-Agent':'Mozilla/5.0 (Windows NT 6.1; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/70.0.3538.77 Safari/537.36' }
#實例化對象
sesion = requests.Session()
#這一步若是產生cookie,則cookie會被自動存儲到session中
session.get(url="https://xueqiu.com/",headers=headers)

url = 'https://xueqiu.com/v4/statuses/public_timeline_by_category.json?since_id=-1&max_id=-1&count=10&category=-1'#session對象中就攜帶了cookie,發送請求
json_obj = session.get(url=url,headers=headers).json()
print(json_obj)

 

 

 

 

四.綜合示例(驗證碼,模擬登錄,cookie)

#對古詩文網進行模擬登錄
#1.獲取驗證碼圖片,而且讓打碼平臺進行識別

import requests
from lxml import etree


s = requests.Session()

url = "https://so.gushiwen.org/user/login.aspx?from=http://so.gushiwen.org/user/collect.aspx"

headers = {
    'User-Agent':'Mozilla/5.0 (Windows NT 6.1; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/70.0.3538.77 Safari/537.36'
}
page_text = s.get(url= url,headers= headers).text
tree = etree.HTML(page_text)
img_src = "https://so.gushiwen.org" + tree.xpath('//*[@id="imgCode"]/@src')[0]

img_data = s.get(url=img_src,headers=headers).content

with open("./gushiwen.jpg","wb") as fp:
    fp.write(img_data)
    
result= transformCodeImg("./gushiwen.jpg",1004)
print(result)

__VIEWSTATE = tree.xpath('//*[@id="__VIEWSTATE"]/@value')[0]
__VIEWSTATEGENERATOR = tree.xpath('//*[@id="__VIEWSTATEGENERATOR"]/@value')[0]

#模擬登錄

post_url = "https://so.gushiwen.org/user/login.aspx?from=http%3a%2f%2fso.gushiwen.org%2fuser%2fcollect.aspx"

data = {
    "__VIEWSTATE": __VIEWSTATE,
    "__VIEWSTATEGENERATOR": __VIEWSTATEGENERATOR,
    "from": "http://so.gushiwen.org/user/collect.aspx",
    "email": "www.zhangbowudi@qq.com",
    "pwd": "bobo328410948",
    "code": result,
    "denglu": "登陸",
}
response = s.post(url= post_url,data= data, headers=headers)

print(response.status_code)

page_text = response.text
with open("./gushi.html","w",encoding="utf-8") as fp:
    fp.write(page_text)

 

 

 五.線程池的使用

線程池須要用到爬蟲較爲耗時的操做中

    耗時的操做:
        視頻的下載,
        視頻的保存

 

import re
from multiprocessing.dummy import Pool
pool = Pool(4)　　　　#建立線程池

url = "https://www.pearvideo.com/category_1"

page_text = requests.get(url=url, headers= headers).text

tree = etree.HTML(page_text)

li_list = tree.xpath('//ul[@id="listvideoListUl"]/li')


video_urls = []  #存放全部的視頻url
for li in li_list:
    deta_url ='https://www.pearvideo.com/'+ li.xpath('./div/a/@href')[0]
    
    detail_page = requests.get(url= deta_url,headers= headers).text
    
    ex = 'srcUrl="(.*?)",vdoUrl='
    
    videl_src = re.findall(ex,detail_page,re.S)[0]
    video_urls.append(videl_src)
#使用異步(線程池)下載視頻
all_video = pool.map(getVidelData,video_urls)  #前參數爲函數,後參數爲列表
print("下載完成")
使用異步保存視頻
pool.map(saveVideo,all_video)

print("保存完成")

 

#下載視頻的函數
def getVidelData(url):
    return requests.get(url=url,headers=headers).content
#保存視頻的函數
import random

def saveVideo(data):
    name = str(random.randint(0,9999))+".mp4"
    with open(name,"wb") as fp:
        fp.write(data)
相關文章
相關標籤/搜索
每日一句
    每一个你不满意的现在，都有一个你没有努力的曾经。
本站公眾號
   歡迎關注本站公眾號,獲取更多信息
聯繫我們 最近搜索 最新文章 沪ICP备13005482号-10 MyBatis教程 SQL 教程 MySQL教程 Java 教程 Thymeleaf 教程 Hibernate教程 Spring教程 Redis教程