scrapy-redis 採集失敗如何將url移出DupeFilter

問題:採集頁面時因爲網絡緣由可能返回爲空內容,但這條採集記錄被記錄在redis的DupeFilter中,致使不能二次採集。 請問:在spider 的編寫過程當中如何將採集失敗的url手動移出redis的xx:DupeFilter。python 引入web from scrapy.utils.request import request_fingerprint 在spiders中,手工判斷respo
相關文章
相關標籤/搜索