scrapy設置cookie

0x01 背景 今天用scrapy框架爬一個房產信息網站，在解析主頁面後得到的url須要再次解析，但奇怪的是scrapy請求該url後會出現重定向。好比我想請求解析北京的房產信息，但當我請求北京房產信息後網站會自動重定向到xx城市，由於我用的ip歸屬在xx城市，以下： 網上找了不少禁止scrapy重定向的解決辦法如在request的時候設置參數don‘t_filter啦，在setings文件添加禁

>>阅读原文<<