記錄爬取2470條數據

由於爬取了幾百條之後,生成的文件就是30多MB啦。所以分成1000,500,500,470.4個批次。 不過,要手動挪一下。【就是把之前第一頁生成的挪過來。】 列表文件,和基礎信息文件.都弄成空列表! 前1000個: 前1000條: 【記錄一下在995條遇到的困難】 還好,我設置了自動從上次失敗的地方進行爬取的功能代碼: 再次啓動:   前1000條結束:      我們僅僅修改page裏面的數值
相關文章
相關標籤/搜索