Python 爬取 13 個旅遊城市，告訴你五一你們最愛去哪玩？

五一假期已經結束，小夥伴是否是都尚未玩過癮？可是沒辦法，還有不少bug等着咱們去寫，一樣還有須要money須要咱們去賺。爲了生活總的拼搏。

 

 

 

 

 

 

 

 

 

 

 

 

 

今年五一放了四天假，不少人再也不只是選擇周邊遊，由於時間充裕，選擇了稍微遠一點的景區，甚至出國遊。各個景點成了人山人海，擁擠的人羣，甚至去衛生間都要排隊半天，那一刻我忽然有點理解滅霸的行爲了。

 

 

 

今天，經過分析去哪兒網部分城市門票售賣狀況，簡單的分析一下哪些景點比較受歡迎。等下次假期能夠作個參考。

 

 

 

經過請求https://piao.qunar.com/ticket/list.htm?keyword=北京，獲取北京地區熱門景區信息，再經過BeautifulSoup去分析提取出咱們須要的信息。

這裏爲了偷懶只爬取了前4頁的景點信息，每頁有15個景點。由於去哪兒並無什麼反爬措施，因此直接請求就能夠了。

這裏只是隨機選擇了13個熱門城市：北京, 上海, 成都, 三亞, 廣州, 重慶, 深圳, 西安, 杭州, 廈門, 武漢, 大連, 蘇州。

並將爬取的數據存到了MongoDB數據庫 。

爬蟲部分完整代碼以下

import requests
from bs4 import BeautifulSoup
from pymongo import MongoClient

class QuNaEr():
    def __init__(self, keyword, page=1):
        self.keyword = keyword
        self.page = page

    def qne_spider(self):
        url = 'https://piao.qunar.com/ticket/list.htm?keyword=%s&region=&from=mpl_search_suggest&page=%s' % (self.keyword, self.page)
        response = requests.get(url)
        response.encoding = 'utf-8'
        text = response.text
        bs_obj = BeautifulSoup(text, 'html.parser')

        arr = bs_obj.find('div', {'class': 'result_list'}).contents
        for i in arr:
            info = i.attrs
            # 景區名稱
            name = info.get('data-sight-name')
            # 地址
            address = info.get('data-address')
            # 近期售票數
            count = info.get('data-sale-count')
            # 經緯度
            point = info.get('data-point')

            # 起始價格
            price = i.find('span', {'class': 'sight_item_price'})
            price = price.find_all('em')
            price = price[0].text

            conn = MongoClient('localhost', port=27017)
            db = conn.QuNaEr # 庫
            table = db.qunaer_51 # 表

            table.insert_one({
                'name'      :   name,
                'address'   :   address,
                'count'     :   int(count),
                'point'     :   point,
                'price'     :   float(price),
                'city'      :   self.keyword
            })



if __name__ == '__main__':
    citys = ['北京', '上海', '成都', '三亞', '廣州', '重慶', '深圳', '西安', '杭州', '廈門', '武漢', '大連', '蘇州']
    for i in citys:
        for page in range(1, 5):
            qne = QuNaEr(i, page=page)
            qne.qne_spider()

　　

效果圖以下

 

 

 

有了數據，咱們就能夠分析出本身想要的東西了

 

一、最受歡迎的15個景區

 

由圖能夠看出，在選擇的13個城市中，最熱門的景區爲上海的迪士尼樂園

代碼以下

from pymongo import MongoClient
# 設置字體，否則沒法顯示中文
from pylab import *

mpl.rcParams['font.sans-serif'] = ['SimHei']

conn = MongoClient('localhost', port=27017)
db = conn.QuNaEr # 庫
table = db.qunaer_51 # 表

result = table.find().sort([('count', -1)]).limit(15)
# x,y軸數據
x_arr = []  # 景區名稱
y_arr = []  # 銷量
for i in result:
    x_arr.append(i['name'])
    y_arr.append(i['count'])

"""
去哪兒月銷量排行榜
"""
plt.bar(x_arr, y_arr, color='rgb')  # 指定color，否則全部的柱體都會是一個顏色
plt.gcf().autofmt_xdate() # 旋轉x軸，避免重疊
plt.xlabel(u'景點名稱')  # x軸描述信息
plt.ylabel(u'月銷量')  # y軸描述信息
plt.title(u'拉鉤景點月銷量統計表')  # 指定圖表描述信息
plt.ylim(0, 4000)  # 指定Y軸的高度
plt.savefig('去哪兒月銷售量排行榜')  # 保存爲圖片
plt.show()

　

二、景區熱力圖

 

這裏爲了方(tou)便(lan)，只展現一下北京地區的景區熱力圖。用到了百度地圖的開放平臺。首先須要先註冊開發者信息，首頁底部有個申請祕鑰的按鈕，點擊進行建立就能夠了。個人應用類型選擇的是瀏覽器端，所以只須要組裝數據替換掉相應html代碼便可。另外還須要將本身訪問應用的AK替換掉。效果圖以下

 

三、景區價格

 

價格是出遊第一個要考慮的，一開始想統計一下各城市的平均價格，可是後來發現效果不是很好，好比北京的劉老根大舞臺價格在580元，這樣拉高了平均價格。就比如姚明和潘長江的平均身高在190cm，並無什麼說服力。因此索性展現一下景區的價格分佈。

根據價格設置了六個區間

 

經過上圖得知，大部分的景區門票價格都在200元如下。每次旅遊花費基本都在交通、住宿、吃吃喝喝上了。門票佔比仍是比較少的。

代碼以下

arr = [[0, 50], [50,100], [100, 200], [200,300], [300,500], [500,1000]]
name_arr = []
total_arr = []
for i in arr:
    result = table.count({'price': {'$gte': i[0], '$lt': i[1]}})
    name = '%s元 ~ %s元 ' % (i[0], i[1])
    name_arr.append(name)
    total_arr.append(result)

color = 'red', 'orange', 'green', 'blue', 'gray', 'goldenrod' # 各種別顏色
explode = (0.2, 0, 0, 0, 0, 0)  # 各種別的偏移半徑

# 繪製餅狀圖
pie = plt.pie(total_arr, colors=color, explode=explode, labels=name_arr, shadow=True, autopct='%1.1f%%')

plt.axis('equal')
plt.title(u'熱點旅遊景區門票價格比例', fontsize=12)

plt.legend(loc=0, bbox_to_anchor=(0.82, 1))  # 圖例
# 設置legend的字體大小
leg = plt.gca().get_legend()
ltext = leg.get_texts()
plt.setp(ltext, fontsize=6)
# 顯示圖
plt.show()

　

最後歡迎你們關注個人公衆號，天天都會努力分享各類乾貨