(六)Scrapy的抓取流程——Downloader

當通過Scheduler取出一條request之後,engine就會調用_download方法進行對這條request的下載。 圖中downloader的fetch方法就是下載器對request的操作方法。 通過DownloaderMiddlewareManager在download方法中定義了process_request, process_response, process_exception
相關文章
相關標籤/搜索