爬取智聯招聘網站的手段(scrapy)

首先www.zhaopin.com是智聯招聘網站的首頁,進行搜索後,比如搜Java,點右鍵查看網頁源代碼可以看到,網頁裏面搜到的內容是異步加載的如圖所示: 然後點擊f12打開開發者工具,如圖: 再點擊刷新查看發送的異步請求,並進行分析: 可以看到發送了兩個異步請求,發現第二個是個後端接口,直接拿到postman中進行測試 ,如圖: 發現是標準的接口,直接調用接口即可爬取到網站的數據,也就避免了對網
相關文章
相關標籤/搜索