二、web爬蟲，scrapy模塊以及相關依賴模塊安裝

【百度雲搜索，搜各類資料:http://bdy.lqkweb.com】

【搜網盤，搜各類資料:http://www.swpan.cn】

當前環境python3.5 ，windows10系統

Linux系統安裝

在線安裝，會自動安裝scrapy模塊以及相關依賴模塊

pip install Scrapy

手動源碼安裝，比較麻煩要本身手動安裝scrapy模塊以及依賴模塊

安裝如下模塊

一、lxml-3.8.0.tar.gz （XML處理庫）

二、Twisted-17.5.0.tar.bz2 （用Python編寫的異步網絡框架）

三、Scrapy-1.4.0.tar.gz （高級web爬行和web抓取框架）

四、pyOpenSSL-17.2.0.tar.gz （OpenSSL庫）

五、queuelib-1.4.2.tar.gz （Queuelib是用於Python的持久(基於磁盤的)隊列的集合）

六、w3lib-1.17.0.tar.gz （與web相關的函數的Python庫）

七、cryptography-2.0.tar.gz （密碼學是一種包）

八、pyasn1-0.2.3.tar.gz （ASN類型和編解碼器）

九、pyasn1-modules-0.0.9.tar.gz （ASN的集合。基於協議模塊）

十、cffi-1.10.0.tar.gz （用於Python調用C代碼的外部函數接口）

十一、asn1crypto-0.22.0.tar.gz （快速的ASN一個解析器和序列化器）

十二、idna-2.5.tar.gz （應用程序中的國際化域名(IDNA)）

1三、pycparser-2.18.tar.gz （C解析器在Python中）

windows系統安裝

windows安裝，首先要安裝pywin32，根據本身的系統來安裝32位仍是64位

pywin32-221.win32-py3.5.exe

pywin32-221.win-amd64-py3.5.exe

在線安裝

pip install scrapy

手動源碼安裝，比較麻煩要本身手動安裝scrapy模塊以及依賴模塊

安裝如下模塊

一、lxml-3.8.0.tar.gz （XML處理庫）

二、Twisted-17.5.0.tar.bz2 （用Python編寫的異步網絡框架）

三、Scrapy-1.4.0.tar.gz （高級web爬行和web抓取框架）

四、pyOpenSSL-17.2.0.tar.gz （OpenSSL庫）

五、queuelib-1.4.2.tar.gz （Queuelib是用於Python的持久(基於磁盤的)隊列的集合）

六、w3lib-1.17.0.tar.gz （與web相關的函數的Python庫）

七、cryptography-2.0.tar.gz （密碼學是一種包）

八、pyasn1-0.2.3.tar.gz （ASN類型和編解碼器）

九、pyasn1-modules-0.0.9.tar.gz （ASN的集合。基於協議模塊）

十、cffi-1.10.0.tar.gz （用於Python調用C代碼的外部函數接口）

十一、asn1crypto-0.22.0.tar.gz （快速的ASN一個解析器和序列化器）

十二、idna-2.5.tar.gz （應用程序中的國際化域名(IDNA)）

1三、pycparser-2.18.tar.gz （C解析器在Python中）

測試是否安裝成功

在cmd終端，運行python

而後運行：import scrapy  ，沒有提示錯誤說明安裝成功