此次咱們寫的是用python爬蟲爬取烏魯木齊的房產數據並展現在地圖上,地圖工具我用的是 BDP我的版-免費在線數據分析軟件,數據可視化軟件 ,這個能夠導入csv或者excel數據。python
首先仍是分析思路,爬取網站數據,獲取小區名稱,地址,價格,經緯度,保存在excel裏。再把excel數據上傳到BDP網站,生成地圖報表mongodb
本人對於Python學習建立了一個小小的學習圈子,爲各位提供了一個平臺,你們一塊兒來討論學習Python。歡迎各位到來Python學習羣:960410445一塊兒討論視頻分享學習。Python是將來的發展方向,正在挑戰咱們的分析能力及對世界的認知方式,所以,咱們與時俱進,迎接變化,並不斷的成長,掌握Python核心技術,纔是掌握真正的價值所在。數據庫
本次我使用的是scrapy框架,可能有點大材小用了,主要是剛學完用這個練練手,再寫代碼前我仍是建議你們先分析網站,分析好數據,再去動手寫代碼,由於好的分析能夠事半功倍,烏魯木齊樓盤,2017烏魯木齊新樓盤,烏魯木齊樓盤信息 - 烏魯木齊吉屋網 這個網站的數據比較全,每一頁獲取房產的LIST信息,而且翻頁,點進去是詳情頁,獲取房產的詳細信息(包含名稱,地址,房價,經緯度),再用pipelines保存item到excel裏,最後在bdp生成地圖報表,廢話很少說上代碼:python爬蟲
item.py框架
pipelines.py 注意此處是吧mongodb的保存方法註釋了,能夠自選選擇保存方式scrapy
最後報表的數據ide
mongodb數據庫工具