一分鐘瞭解scrapy流程

 scrapy 框架流程圖   我們就按照這張圖進行詳解 spiders 將URL發送到引擎,然後在經過調度器,調度器對引擎發過來的requests按照一定的方式整理隊列 然後返回給引擎,引擎又將request扔給downloader,downloader進行請求,將返回來的response返回給引擎,然後在經過spiders,進行解析,然後在經過item pipelines對數據進行存儲
相關文章
相關標籤/搜索