網站爬取思路總結

1、建議 1、簡單的一些靜態網站可以直接看Chrome裏面的Network請求分析獲得數據。 2、還有一些動態的網站ajax請求,可以藉助一些工具進行分析,或者用selenium模擬瀏覽器行爲也行。 2、爬取步驟及思路 1、確定要爬取的目標數據,逆向推理分析網站結構,選擇獲取頁面詳情的最優路徑: (1)逆向推理分析網站結構:通過目標數據,逐步分析祖輩的url鏈接(ps:一般對首頁的url進行get
相關文章
相關標籤/搜索