python數據挖掘_Json結構分析

json是一種輕量級的數據交換格式，也能夠說是一種配置文件的格式

這種格式的文件是咱們在數據處理常常會遇到的

python提供內置的模塊json，只須要在使用前導入便可

 

你能夠經過幫助函數查看json的幫助文檔

 

 

json經常使用的方法有load、loads、dump以及dumps，這個都屬於python初級，我不作過多解釋

json能夠結合數據庫一塊兒使用，在這之後要處理大量數據時很是有用

 

下面咱們正式來利用數據挖掘對json文件進行處理

如今不少網站都運用了Ajax，因此通常不少都是XHR文件

經過

這裏我想利用一個地圖網站來演示

 

咱們經過瀏覽器的調試獲取了相關url

https://ditu.amap.com/service/poiInfo?id=B001B0IZY1&query_type=IDQ

下面咱們經過requests模塊中的get方法，模擬瀏覽器發出的http請求，並返回的到的結果對象

 

代碼以下

# coding=utf-8
__Author__ = "susmote"

import requests
url = "https://ditu.amap.com/service/poiInfo?id=B001B0IZY1&query_type=IDQ"

resp = requests.get(url)
print(resp.text[0:200])

在終端中運行結果以下

 

數據已經獲取到了，可是爲了接下來能使用這些數據，咱們須要利用json模塊對這些數據進行分析

代碼以下

import requests
import json

url = "https://ditu.amap.com/service/poiInfo?id=B001B0IZY1&query_type=IDQ"

resp = requests.get(url)

json_dict = json.loads(resp.text)

print(type(json_dict))

print(json_dict.keys())

 

簡單講一下上面的代碼：

導入json模塊，而後調用loads方法，將返回的文本做爲方法的參數傳入 

在終端中運行結果以下 

 

 能夠看出，轉換的結果是與json字符串對應的字典，由於type（json_dict）返回的是<class 'dict'>

由於對象是一個字典，因此咱們能夠調用字典的方法，在這裏咱們調用的就是keys方法

結果返回三個鍵，即status、searcOpt、data

 

下面咱們來查看data鍵裏面的數據

import requests
import json

url = "https://ditu.amap.com/service/poiInfo?id=B001B0IZY1&query_type=IDQ"

resp = requests.get(url)

json_dict = json.loads(resp.text)

print(json_dict['data'])

下面在終端中運行這一段代碼

 

能夠看到裏面有不少咱們須要的數據，如 

不一一標出，經過跟網頁顯示的相比較，就能清楚哪些是有用的了

 

下面咱們經過代碼獲取有用的信息，把它清晰的輸出

# coding=utf-8
__Author__ = "susmote"

import requests
import json

url = "https://ditu.amap.com/service/poiInfo?id=B001B0IZY1&query_type=IDQ"

resp = requests.get(url)

json_dict = json.loads(resp.text)

data_dict = json_dict['data']

data_list = data_dict['poi_list']

dis_data = data_list[0]

print('城市： ', dis_data['cityname'])
print('名稱： ', dis_data['name'])
print('電話： ', dis_data['tel'])
print('區號： ', dis_data['areacode'])
print('地址： ', dis_data['address'])
print('經度： ', dis_data['longitude'])
print('緯度： ', dis_data['latitude'])

 由於返回的是一個字典，經過對文件結構的研究，字典中嵌套着列表，列表中又嵌套着字典，經過層層解套，成功獲取數據

我這裏把步驟分開列出了，因此你會看的更加清楚

下面咱們經過終端運行程序，獲取咱們想要的信息 

 

是否是很是簡單了，這個程序能夠做爲一個模版，獲取其餘地方的信息時只須要改一個url便可

例如如下幾個範例

北京大學 

 

或者是騰訊大廈

 

數據挖掘是沒有盡頭的，但願你們多分析數據，找到你想要的數據

 

個人博客 www.susmote.com