scrapy的組件、作用,基本流程

分爲5個部分;Spiders(爬蟲類),Scrapy Engine(引擎),Scheduler(調度器),Downloader(下載器),Item Pipeline(處理管道)。 spiders:一個是告訴scrapy下載哪些url(requests),第二個是將設置好的item通過yield item,這個item就會由pipelines來進行處理 這兩種主要由yield來做的,所以可以yiel
相關文章
相關標籤/搜索