pyspider+PhantomJS的代理設置

環境:pyspider0.3.9 PhantomJS2.1.1,均爲最新版web

進程用supervisor託管的。json

其中須要加的幾個地方:ide

webui進程:fetch

pyspider -c config.json --phantomjs-proxy=127.0.0.1:25555 webui

processor進程:ui

pyspider -c config.json --phantomjs-proxy=127.0.0.1:25555 processor

fetcher進程:spa

pyspider -c config.json --phantomjs-proxy=127.0.0.1:25555 fetcher

phantomjs進程:代理

pyspider -c config.json phantomjs -- --proxy=ip:port --proxy-auth=name:password

 

以上須要注意的是,webui、processor 、fetcher 都加了phantomjs的本地地址支持。code

phantomjs 進程後面設置phantomjs 的代理端口,文中的加了驗證,免密的能夠直接寫 -- --proxy=ip:port 不寫--proxy-auth=name:passwordpyspider

------------------------------blog

遇到這個提示,應該能夠忽略不計,意思是提示你,任務裏面的代理設置並不會影響phantomjs

phantomjs does not support specify proxy from script, use phantomjs args instead
相關文章
相關標籤/搜索