scrapy框架的Spiders模塊的基本類Spider的主要方法以及作用

Spider 是最基本的類,所有編寫的爬蟲必須繼承這個類! 這個類的主要功能(也是spiders模塊在框架裏的作用):     1.發起起始的請求     2.解析響應,抽取數據和跟進的url ①定義了爬取行爲 ②定義了數據抽取行爲     通俗來說就是解析response,分析得到數據以及產生新的url 以下是Spider源碼裏面核心模塊的主要功能 Spider源代碼的init方法:初始化並判定
相關文章
相關標籤/搜索