Python學習筆記之Scrapy爬蟲

Scrapy架構圖(綠線是數據流向) Scrapy Engine(引擎): 負責Spider、ItemPipeline、Downloader、Scheduler中間的通訊，信號、數據傳遞等。 Scheduler(調度器): 它負責接受引擎發送過來的Request請求，並按照一定的方式進行整理排列，入隊，當引擎需要時，交還給引擎。 Downloader（下載器）：負責下載Scrapy Engine(

>>阅读原文<<