org.apache.http.conn.HttpHostConnectException: Connect to search.51job.com:,爬蟲爬取51job.com時連接超時,解決方案

最近在做爬蟲項目時,遇到了這樣一個問題,org.apache.http.conn.HttpHostConnectException: Connect to search.51job.com,翻譯過來就是連接超時的意思,這個報錯導致的結果就是,爬蟲數據時爬取一半,直接報錯連接中斷,如果沒有設置去掉重複數據的代碼,下一次運行會重新下載重複數據到數據庫。並且還會繼續超時。解決方法就是在代碼中設置超時時間
相關文章
相關標籤/搜索