網絡爬蟲－使用Python抓取網頁數據

 

搬自大神boyXiong的乾貨！

閒來無事，看看了Python，發現這東西挺爽的，廢話少說，就是幹

• 準備搭建環境 
  
  • 由於是MAC電腦，因此自動安裝了Python 2.7的版本
  • 添加一個 庫 Beautiful Soup ,方法這裏說兩種 
    
    • 1.在終端輸入 pip install BeautifulSoup
    • 2.手動下載包後，終端切換到 解壓的文件夾，輸入 sudo python setup.py install 下載地址BeautifulSoup
• 開始寫代碼吧 
  
  • 先找一個想要抓取東西的網站，這裏我就隨便找一個吧 地址是：http://movie.douban.com/chart
  • 好了在終端輸入 vim 我知道這個東西，對於新手來講，就是一個挑戰，這裏我也建議使用輕量的Sublime
  • 代碼以下 (注意python是嚴格的縮進,如下代碼要頂格寫)

1 #-*- coding:utf-8 -*-
2 import urllib2
3 import urllib
4 html=urllib2.urlopen("http://movie.douban.com/chart").read()
5 print html

• 輸出的結果就是一個HTML的網頁，這裏我就看到本身想要抓取的圖片和圖片名的文字片斷

<a class="nbg" href="http://movie.douban.com/subject/24879839/"  title="道士下山">
           <img src="http://img3.douban.com/view/movie_poster_cover/ipst/public/p2251450614.jpg" alt="道士下山" class=""/>
</a>

• 分析咱們想要的，一個是圖片的名稱，一個是圖片的連接地址，直接上Python代碼

 1 #-*- coding:utf-8 -*-
 2 import urllib2
 3 from bs4 import BeautifulSoup
 4 
 5 import sys  
 6 reload(sys)  
 7 sys.setdefaultencoding('utf8')
 8 
 9 # 函數
10 def  printPlistCode():
11     #1.獲得這個網頁的 html 代碼 #
12     html = urllib2.urlopen("http://movie.douban.com/chart").read()
13 
14     #2.轉換 一種格式，方便查找
15     soup = BeautifulSoup(html)
16     #3.  獲得 找到的全部 包含 a 屬性是class = nbg 的代碼塊,數組
17     liResutl = soup.findAll('a', attrs = {"class" : "nbg"})
18     #4.用於拼接每一個字典的字符串
19     tmpDictM = ''
20 
21     #5. 遍歷這個代碼塊  數組
22     for li in liResutl:
23 
24         #5.1 找到 img 標籤的代碼塊 數組
25         imageEntityArray = li.findAll('img')
26 
27         #5.2 獲得每一個image 標籤
28         for image in imageEntityArray:
29             #5.3 獲得src 這個屬性的 value  後面也同樣 相似 key value
30             link = image.get('src')
31             imageName = image.get('alt')
32             #拼接 因爲 py中 {} 是一種數據處理格式，相似佔位符
33             tmpDict = '''@{0}@\"name\" : @\"{1}\", @\"imageUrl\" : @\"{2}\"{3},'''
34 
35             tmpDict =  tmpDict.format('{',imageName,link,'}')
36 
37             tmpDictM = tmpDictM + tmpDict
38 
39     #6.去掉最後一個 , 
40     tmpDictM = tmpDictM[0:len(tmpDictM) - 1].decode('utf8')
41 
42     #7 拼接所有
43     restultStr = '@[{0}];'.format(tmpDictM)
44 
45     print restultStr
46 
47 
48 if __name__ == '__main__':
49     printPlistCode()

• 輸出結果就是Objective-C的 數組

@[@{@"name" : @"進擊的巨人真人版：前篇", @"imageUrl" : @"http://img3.douban.com/view/movie_poster_cover/ipst/public/p2251690571.jpg"},@{@"name" : @"花與愛麗絲殺人事件", @"imageUrl" : @"http://img3.douban.com/view/movie_poster_cover/ipst/public/p2222398443.jpg"},@{@"name" : @"小黃人大眼萌", @"imageUrl" : @"http://img4.douban.com/view/movie_poster_cover/ipst/public/p2258235689.jpg"},@{@"name" : @"小森林 冬春篇", @"imageUrl" : @"http://img4.douban.com/view/movie_poster_cover/ipst/public/p2215147728.jpg"},@{@"name" : @"道士下山", @"imageUrl" : @"http://img3.douban.com/view/movie_poster_cover/ipst/public/p2251450614.jpg"},@{@"name" : @"深夜食堂 電影版", @"imageUrl" : @"http://img3.douban.com/view/movie_poster_cover/ipst/public/p2205014862.jpg"},@{@"name" : @"小男孩", @"imageUrl" : @"http://img4.douban.com/view/movie_poster_cover/ipst/public/p2230105606.jpg"},@{@"name" : @"頭腦特工隊", @"imageUrl" : @"http://img4.douban.com/view/movie_poster_cover/ipst/public/p2231021196.jpg"},@{@"name" : @"百元之戀", @"imageUrl" : @"http://img4.douban.com/view/movie_poster_cover/ipst/public/p2205471169.jpg"},@{@"name" : @"殺破狼2", @"imageUrl" : @"http://img4.douban.com/view/movie_poster_cover/ipst/public/p2246885606.jpg"}];

 

• 使用Xcode 寫到Plist中去

#import <Foundation/Foundation.h>

int main(int argc, const char * argv[]) {


    NSArray *plistArray = @[@{@"name" : @"進擊的巨人真人版：前篇", @"imageUrl" : @"http://img3.douban.com/view/movie_poster_cover/ipst/public/p2251690571.jpg"},@{@"name" : @"花與愛麗絲殺人事件", @"imageUrl" : @"http://img3.douban.com/view/movie_poster_cover/ipst/public/p2222398443.jpg"},@{@"name" : @"小黃人大眼萌", @"imageUrl" : @"http://img4.douban.com/view/movie_poster_cover/ipst/public/p2258235689.jpg"},@{@"name" : @"小森林 冬春篇", @"imageUrl" : @"http://img4.douban.com/view/movie_poster_cover/ipst/public/p2215147728.jpg"},@{@"name" : @"道士下山", @"imageUrl" : @"http://img3.douban.com/view/movie_poster_cover/ipst/public/p2251450614.jpg"},@{@"name" : @"深夜食堂 電影版", @"imageUrl" : @"http://img3.douban.com/view/movie_poster_cover/ipst/public/p2205014862.jpg"},@{@"name" : @"小男孩", @"imageUrl" : @"http://img4.douban.com/view/movie_poster_cover/ipst/public/p2230105606.jpg"},@{@"name" : @"頭腦特工隊", @"imageUrl" : @"http://img4.douban.com/view/movie_poster_cover/ipst/public/p2231021196.jpg"},@{@"name" : @"百元之戀", @"imageUrl" : @"http://img4.douban.com/view/movie_poster_cover/ipst/public/p2205471169.jpg"},@{@"name" : @"殺破狼2", @"imageUrl" : @"http://img4.douban.com/view/movie_poster_cover/ipst/public/p2246885606.jpg"}];
    //路徑能夠本身選擇
    [plistArray writeToFile:@"/Users/xxx/Desktop/test/movie.plist" atomically:YES];

    return 0;
}

 

• 到這裏，就能夠看到plist 文件能夠用於測試了 
  
• 若是想要複製粘貼這裏面的代碼，那就選擇Sublime編輯器
• (歡迎轉帖，請附上源地址boyXiong)