9月13日發佈的iPhone Xs算是手機界的大新聞了,新款iPhone的價格也再度刷新了手機訂價的記錄。看完發佈會,相信不少人的心情是這樣的html
強哥以前用的iPhone 6,最近準備換手機。經濟形勢嚴峻,換iPhone是換不起了,只能消費降級,投奔安卓陣營。node
1500元的預算,連個二手的iPhone都買不了,可是在安卓機裏卻有很多選擇。本文咱們就來看看怎樣用數據分析選購手機。python
思路很簡單,上京東商城把全部手機的數據爬下來,而後根據配置、價格過濾出符合條件的手機,在過濾出來的手機裏選擇一部性價比最高的。畫成流程圖,大體是這樣的git
第一步,咱們先從京東商城爬取全部在售的手機數據。這裏咱們關心的主要是價格和配置信息,商品頁面上的價格和配置信息像下面兩張圖所示github
咱們編寫代碼爬取全部手機的價格和配置信息,爬蟲的核心代碼以下ajax
# 獲取手機單品的價格
def get_price(skuid):
url = "https://c0.3.cn/stock?skuId=" + str(skuid) + "&area=1_72_4137_0&venderId=1000004123&cat=9987,653,655&buyNum=1&choseSuitSkuIds=&extraParam={%22originid%22:%221%22}&ch=1&fqsp=0&pduid=15379228074621272760279&pdpin=&detailedAdd=null&callback=jQuery3285040"
r = requests.get(url, verify=False)
content = r.content.decode('GBK')
matched = re.search(r'jQuery\d+\((.*)\)', content, re.M)
if matched:
data = json.loads(matched.group(1))
price = float(data["stock"]["jdPrice"]["p"])
return price
return 0
# 獲取手機的配置信息
def get_item(skuid, url):
price = get_price(skuid)
r = requests.get(url, verify=False)
content = r.content
root = etree.HTML(content)
nodes = root.xpath('.//div[@class="Ptable"]/div[@class="Ptable-item"]')
params = {"price": price, "skuid": skuid}
for node in nodes:
text_nodes = node.xpath('./dl')[0]
k = ""
v = ""
for text_node in text_nodes:
if text_node.tag == "dt":
k = text_node.text
elif text_node.tag == "dd" and "class" not in text_node.attrib:
v = text_node.text
params[k] = v
return params
# 獲取一個頁面中的全部手機信息
def get_cellphone(page):
url = "https://list.jd.com/list.html?cat=9987,653,655&page={}&sort=sort_rank_asc&trans=1&JL=6_0_0&ms=4#J_main".format(page)
r = requests.get(url, verify=False)
content = r.content.decode("utf-8")
root = etree.HTML(content)
cell_nodes = root.xpath('.//div[@class="p-img"]/a')
client = pymongo.MongoClient()
db = client[DB]
for node in cell_nodes:
item_url = fix_url(node.attrib["href"])
matched = re.search('item.jd.com/(\d+)\.html', item_url)
skuid = int(matched.group(1))
saved = db.items.find({"skuid": skuid}).count()
if saved > 0:
print(saved)
continue
item = get_item(skuid, item_url)
# 結果存入MongoDB
db.items.insert(item)
複製代碼
須要注意的是,上面的get_price和get_item函數分別從兩個url獲取數據,這是由於配置信息能夠直接從商品頁面中解析獲得,而價格信息須要從另一個ajax請求裏得到。爬下來的全部數據存入MongoDB。json
爬下來的手機數據當中,信息完整的共有4700多條數據,這4700多部手機屬於70個手機品牌。 這些品牌畫成詞雲圖是這樣的微信
手機的配置主要有如下這些參數函數
強哥平時用手機主要是看看書、刷刷知乎微信、買買東西,因此選購新手機的時候最關心的就是速度、容量、待機時間這幾項,對攝像頭、屏幕材質倒不是特別在意。考慮以上因素,在對數據作過濾的時候,我設定了如下幾個條件性能
過濾數據的代碼以下
client = pymongo.MongoClient()
db = client[DB]
items = db.items.find({})
result = preprocess(items)
df = pd.DataFrame(result)
df_res = df[df.cpu_brand=="驍龍(Snapdragon)"][df.battery_cap >= 3000][df.rom >= 64][df.ram >= 6][df.dual_sim == True][df.price<=1500]
print(df_res[["brand", "model", "color", "cpu_brand", "cpu_freq", "cpu_core", "cpu_model", "rom", "ram", "battery_cap", "price"]].sort_values(by="price"))
複製代碼
首先從MongoDB裏讀取數據,而後建立DataFrame,對DataFrame裏的數據按照上面的條件做選擇。代碼的最後一行將篩選出來的手機打印出來,並按價格從低到高排序。
通過了這樣一輪篩選後,咱們獲得了下面的38款手機
上面的幾部手機配置都比較接近,可是網上對小米的評價廣泛比較高,因而又在上面的列表裏篩選出了全部的小米手機,獲得下面7款
這裏就變成了紅米Note5和小米6X的PK了。價格上,二者不差上下。配置方面,網上查到紅米Note5的cpu是驍龍636的(上面的表格裏缺乏紅米Note5的cpu型號),相比小米6X的驍龍660,636雖然性能上不如660,但更省電,並且考慮到紅米Note5 4000毫安的超大容量電池,最後決定了購買紅米Note 5這一款。做爲一款千元機,驍龍636八核CPU、6G大內存、64G大存儲、5.99英寸大視野全面屏、前置相機+後置雙攝、超長的待機時間,這款手機大概算是千元機中的機皇了。
全部代碼已上傳github,公衆號【Python與數據分析】後臺回覆「選購手機」可獲取地址。