十萬數據處理(初試python黑魔法asyncio)

前言 本篇要從小7的朋友提及。數據組的他收到業務提交的三個excel。要求將其中的地址轉成經緯度,而後匹配最近的銀行網點。現用的轉換程序約二秒出一條記錄,三個excel總數據量約十幾萬。這也難怪會愁了。html 正文 0x01使用scrapy爬蟲框架處理。 緣由有如下幾點: 1. 上次使用scrapy爬攜程評論如今仍是比較熟悉 2. scrapy使用的是異步請求(重點) 3. 框架設計有數據持久化
相關文章
相關標籤/搜索