對start_request進行重構以及二次請求時如何攜帶cookies

接收接口傳輸過來的數據,用CrawlerRunner會先實例化spiders下的蜘蛛文件裏的class類,這個時候調用動態cookie就可以使用重構start_requests 的方法 抓取詳情頁時,會有一些產品信息的接口需要通過參數去再次訪問,同時需要cookie 就會需要meta繼續傳遞獲取的動態cookie,不然沒有cookie訪問時,會出現429狀態碼。 解決429的方法 import r
相關文章
相關標籤/搜索