urllib,request 設置代理

 通常防止爬蟲被反主要有以下幾個策略: 1.動態設置User-Agent(隨機切換User-Agent,模擬不同用戶的瀏覽器信息) 2.使用IP地址池:v*n和代理IP,現在大部分網站都是根據IP來ban的。 3.禁用Cookies(也就是不啓用cookies middleware,不向Server發送cookies,有些網站通過cookie的使用發現爬蟲行爲) 4.可以通過COOKIES_ENA
相關文章
相關標籤/搜索