@git
壁紙的選擇其實很大程度上能看出電腦主人的心裏世界,有的人喜歡風景,有的人喜歡星空,有的人喜歡美女,有的人喜歡動物。然而,終究有一天你已經產生審美疲勞了,但你下定決定要換壁紙的時候,又發現網上的壁紙要麼分辨率低,要麼帶有水印。github
這裏有一款Mac下的小清新壁紙神器Pap.er,多是Mac下最好的壁紙軟件,自帶5K超清分辨率壁紙,富有多種類型壁紙,當咱們想在Windows或者Linux下使用的時候,就能夠考慮將5K超清分辨率壁紙爬取下來。web
首先,打開Charles軟件,進行抓包。打開Pap.er,開始抓包。(因爲是Mac系統下的APP,因此非Mac系統的朋友能夠直接看抓包結果)json
抓包分析結果以下:api
類型 | 地址 |
---|---|
最新 | https://service.paper.meiyuan.in/api/v2/columns/flow/5c68ffb9463b7fbfe72b0db0?page=1&per_page=20 |
最熱 | https://service.paper.meiyuan.in/api/v2/columns/flow/5c69251c9b1c011c41bb97be?page=1&per_page=20 |
女生 | https://service.paper.meiyuan.in/api/v2/columns/flow/5c81087e6aee28c541eefc26?page=1&per_page=20 |
星空 | https://service.paper.meiyuan.in/api/v2/columns/flow/5c81f64c96fad8fe211f5367?page=1&per_page=20 |
參數page
不用改動,per_page
指的是每頁提取的數量,也就是咱們想要提取的圖片數量。函數
抓完包以後,咱們開始編寫5K壁紙解析程序url
# 爬取不一樣類型圖片 def crawler_photo(type_id, photo_count): # 最新 1, 最熱 2, 女生 3, 星空 4 if(type_id == 1): url = 'https://service.paper.meiyuan.in/api/v2/columns/flow/5c68ffb9463b7fbfe72b0db0?page=1&per_page=' + str(photo_count) elif(type_id == 2): url = 'https://service.paper.meiyuan.in/api/v2/columns/flow/5c69251c9b1c011c41bb97be?page=1&per_page=' + str(photo_count) elif(type_id == 3): url = 'https://service.paper.meiyuan.in/api/v2/columns/flow/5c81087e6aee28c541eefc26?page=1&per_page=' + str(photo_count) elif(type_id == 4): url = 'https://service.paper.meiyuan.in/api/v2/columns/flow/5c81f64c96fad8fe211f5367?page=1&per_page=' + str(photo_count) headers = {"User-Agent": "Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/63.0.3239.132 Safari/537.36"} # 獲取圖片連接列表數據,json格式 respond = requests.get(url, headers=headers) # 對json格式轉化爲python對象 photo_data = json.loads(respond.content) # 已經下載的圖片張數 now_photo_count = 1 # 全部圖片張數 all_photo_count = len(photo_data) # 開始下載並保存5K分辨率壁紙 for photo in photo_data: # 建立一個文件夾存放咱們下載的圖片(若存在則不用從新建立) if not os.path.exists('./' + str(type_id)): os.makedirs('./' + str(type_id)) # 準備下載的圖片連接,5K超清壁紙連接 file_url = photo['urls']['raw'] # 準備下載的圖片名稱,不包含擴展名 file_name_only = file_url.split('/') file_name_only = file_name_only[len(file_name_only) -1] # 準備保存到本地的完整路徑 file_full_name = './' + str(type_id) + '/' + file_name_only # 開始下載圖片 Down_load(file_url, file_full_name, now_photo_count, all_photo_count) # 已經下載的圖片數量加1 now_photo_count = now_photo_count + 1
根據不一樣類型的壁紙,建立不一樣的文件夾編號進行分類。code
上面的Down_load()
函數是下載文件的意思,調用requests
庫,具體代碼以下:對象
# 文件下載器 def Down_load(file_url, file_full_name, now_photo_count, all_photo_count): headers = {"User-Agent": "Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/63.0.3239.132 Safari/537.36"} # 開始下載圖片 with closing(requests.get(file_url, headers=headers, stream=True)) as response: chunk_size = 1024 # 單次請求最大值 content_size = int(response.headers['content-length']) # 文件總大小 data_count = 0 # 當前已傳輸的大小 with open(file_full_name, "wb") as file: for data in response.iter_content(chunk_size=chunk_size): file.write(data) done_block = int((data_count / content_size) * 50) data_count = data_count + len(data) now_jd = (data_count / content_size) * 100 print("\r %s:[%s%s] %d%% %d/%d" % (file_full_name, done_block * '█', ' ' * (50 - 1 - done_block), now_jd, now_photo_count, all_photo_count), end=" ") # 下載完圖片後獲取圖片擴展名,併爲其增長擴展名 file_type = filetype.guess(file_full_name) os.rename(file_full_name, file_full_name + '.' + file_type.extension)
chunk_size
指的是單次請求的最大值,content_size
指的就是咱們下載5K超清壁紙的大小,爲了可以直觀顯示下載狀況,因此添加了下載進度條的顯示效果。核心代碼爲file.write(data)
。
下載完畢後,爲了方便咱們查看文件,因此須要給圖片添加對應的擴展名,好比jpg,png,gif
,這裏使用到filetype
庫對文件進行解析,判斷其類型。
最後,開始在main中爬取5K高清壁紙:
if __name__ == '__main__': # 最新 1, 最熱 2, 女生 3, 星空 4 # 爬取類型爲3的圖片(女生),一共準備爬取100張 print("程序已經開始運行,請稍等……") crawler_photo(1, 100) crawler_photo(2, 100) crawler_photo(3, 100) crawler_photo(4, 100)
# 若是沒有安裝,請使用pip install module安裝 import requests import filetype import os import json from contextlib import closing
項目源代碼在GitHub倉庫
項目持續更新,歡迎您star本項目