爬蟲的一個重要步驟就是頁面解析與數據提取。更多內容請參考:Python學習指南正則表達式
頁面解析與數據提取
實際上爬蟲一共就四個主要步驟:json
- 定(要知道你準備在哪一個範圍或者網站去搜索)
- 爬(將全部的網站的內容所有爬下來)
- 取(分析數據,去掉對咱們沒用處的數據)
- 存(按照咱們想要的方式存儲和使用)
- 表(能夠根據數據的類型經過一些圖標展現)
之前學的就是如何從網站去爬數據,而爬下來的數據卻沒作分析,如今,就開始對數據作一些分析。學習
數據,可分爲非結構化數據
和結構化數據
網站
- 非結構化數據:先有數據,再有結構
- 結構化數據:先有結構,再有數據
- 不一樣類型的數據,咱們須要採用不一樣的方式來處理
非結構化的數據處理
文本、電話號碼、郵箱地址code
HTML文件xml
結構化的數據處理
JSON文件搜索
- JSON Path
- 轉化爲Python類型進行操做(json類)
XML文件數據
- 轉化爲Python類型(xmltodict)
- XPath
- CSS選擇器
- 正則表達式