[Python爬蟲] Selenium自動訪問Firefox和Chrome並實現搜索截圖

        前兩篇文章介紹了安裝，此篇文章算是一個簡單的進階應用吧！它是在Windows下經過Selenium+Python實現自動訪問Firefox和Chrome並實現搜索截圖的功能。
        [Python爬蟲] 在Windows下安裝PhantomJS和CasperJS及入門介紹(上)
        [Python爬蟲] 在Windows下安裝PIP+Phantomjs+Selenium

自動訪問Firefox

        能夠參照前文安裝Selenium環境，目前Selenium這個用於Web應用程序測試的工具支持的瀏覽器包括IE、Mozilla Firefox、Mozilla Suite、Chrome等。可是因爲Firefox是默認安裝路徑，webdriver能夠正常訪問它，而Chrome和IE須要設置driver路徑。

 1 from selenium import webdriver
 2 from selenium.webdriver.common.keys import Keys
 3 import sys 
 4 
 5 reload(sys) 
 6 sys.setdefaultencoding('gb18030') 
 7 driver = webdriver.Firefox()
 8 driver.get("http://www.baidu.com")
 9 assert "百度" in driver.title
10 elem = driver.find_element_by_name("wd")
11 elem.send_keys("Eastmount")
12 elem.send_keys(Keys.RETURN)
13 assert "谷歌" in driver.title
14 driver.save_screenshot('baidu.png')
15 driver.close()
16 driver.quit()

        運行效果以下圖所示，自動調用Firefox瀏覽器搜索，同時輸出斷言錯誤：
        assert "谷歌" in driver.title AssertionError

 

源碼分析

        官方文檔地址： http://selenium-python.readthedocs.org/getting-started.html

from selenium import webdriver
       from selenium.webdriver.common.keys import Keys
       import sys

        首先導入Selenium.webdriver模板，它提供了webdriver的實現方法，目前支持這些方法的有Firefox、Chrome、IE和Remote。同時導入Keys類，它提供了操做鍵盤的快捷鍵，如RETURE、F一、ALT等。最後導入sys主要是設置編碼方式。

reload(sys)
       sys.setdefaultencoding('gb18030') 

        因爲漢語中可能會遇到錯誤：
        UnicodeDecodeError: 'ascii' codec can't decode byte 0xc4 in position 33
        UnicodeDecodeError: 'utf8' codec can't decode byte 0xb0 in position 35
        因此此處轉換成gb編碼，該篇不重點介紹了。

driver = webdriver.Firefox()
       driver.get("http://www.baidu.com")

        建立Firefoxwebdriver實例。其中Firefox最簡單，其餘Chrome還須要driver和配置路徑。接下來經過driver.get()打開百度URL網頁，webdriver會等待網頁元素加載完成以後才把控制權交回腳本。可是，若是要打開了頁面在加載的過程當中包含了不少AJAX，webdriver可能沒法準確判斷頁面什麼時候加載完成。

assert "百度" in driver.title
       assert "谷歌" in driver.title

         接下來使用斷言判斷文章的標題Title是否包含「百度」和「谷歌」。對應的標題是「百度一下，你就知道」，因此其中「百度」包括，而「谷歌」會出現斷言報錯。
        同時提交頁面並得到返回結果，爲了判斷結果是否成功返回也可使用斷言。

elem = driver.find_element_by_name("wd")

        webdriver提供了不少如find_element_by_*的方法來匹配要查找的元素。如利用name屬性查找方法find_element_by_name來定位輸入框，審查元素name=wd。
        元素定位方法能夠參考官網： Locating Elements

elem.send_keys("Eastmount")

elem.send_keys(Keys.RETURN)

        send_keys方法能夠用來模擬鍵盤操做，至關因而在搜索框中輸入「Eastmount」再按回車鍵搜索。但首先要從selenium.webdriver.common.keys導入Keys類。

driver.save_screenshot('baidu.png')

driver.close()

driver.quit()

        最後是調用save_screenshot進行截圖，可是圖片是過程當中的，怎樣獲取最後加載的圖片呢？同時，操做完成並關閉瀏覽器。固然，也能夠調用quit（）方法，二者的區別在於：quit（）方法會退出瀏覽器，而close（）方法只是關閉頁面，但若是隻有一個頁面被打開，close（）方法一樣會退出瀏覽器。


自動訪問Chrome

        首先下載 chromedriver並置於Chrome安裝目錄。可能會遇到錯誤：
        WebDriverException: Message: 'chromedriver' executable needs to be in PATH.參考官網解決方法： How to use chromedriver，我採用的是設置driver環境。
        代碼以下：

 1 import os
 2 from selenium import webdriver
 3 from selenium.webdriver.common.keys import Keys
 4 
 5 chromedriver = "C:\Program Files (x86)\Google\Chrome\Application\chromedriver.exe"
 6 os.environ["webdriver.chrome.driver"] = chromedriver
 7 
 8 driver = webdriver.Chrome(chromedriver)
 9 driver.get("http://www.python.org")
10 assert "Python" in driver.title
11 elem = driver.find_element_by_name("q")
12 elem.send_keys("selenium")
13 elem.send_keys(Keys.RETURN)
14 assert "Google" in driver.title
15 driver.close()
16 driver.quit()

 

        須要放置chromedriver以下路徑，同時能夠經過代碼設置。可是因爲個人Chrome可能Bug一直未修復，老是打開錯誤。

driver = webdriver.Chrome(executable_path="G:\chromedriver.exe")

 

參考資料：

         用python玩轉selenium：2-入門實例及分析 - Reiki
         構建Python+Selenium2自動化測試環境<二>：IE、Chrome和Firefox運行
         用selenium實現某微博搜索數據的抓取
         RobotFramework+seleniumlibrary Web自動化測試 (三)

        最後但願該篇基礎性文章對你有所幫助吧！若是有不足之處，還請海涵~
      （By:Eastmount 2015-8-20 下午4點    http://blog.csdn.net/eastmount/）