User-Agent

在工做中進行爬蟲時,常常會須要提供User-Agent,若是不提供User-Agent,會致使爬蟲在請求網頁時,請求失敗,因此須要大量User-Agent。如何生成合法的User-Agent?sql

使用fake-useragent庫就能夠解決該問題。chrome

安裝:瀏覽器

pip install fake-useragent

使用:dom

該模塊使用很是簡單。ide

  1.  
    from fake_useragent import UserAgent
  2.  
    ua = UserAgent()
  3.  
     
  4.  
    ua.ie
  5.  
    # Mozilla/5.0 (Windows; U; MSIE 9.0; Windows NT 9.0; en-US);
  6.  
    ua.msie
  7.  
    # Mozilla/5.0 (compatible; MSIE 10.0; Macintosh; Intel Mac OS X 10_7_3; Trident/6.0)'
  8.  
    ua[ 'Internet Explorer']
  9.  
    # Mozilla/5.0 (compatible; MSIE 8.0; Windows NT 6.1; Trident/4.0; GTB7.4; InfoPath.2; SV1; .NET CLR 3.3.69573; WOW64; en-US)
  10.  
    ua.opera
  11.  
    # Opera/9.80 (X11; Linux i686; U; ru) Presto/2.8.131 Version/11.11
  12.  
    ua.chrome
  13.  
    # Mozilla/5.0 (Windows NT 6.1) AppleWebKit/537.2 (KHTML, like Gecko) Chrome/22.0.1216.0 Safari/537.2'
  14.  
    ua.google
  15.  
    # Mozilla/5.0 (Macintosh; Intel Mac OS X 10_7_4) AppleWebKit/537.13 (KHTML, like Gecko) Chrome/24.0.1290.1 Safari/537.13
  16.  
    ua[ 'google chrome']
  17.  
    # Mozilla/5.0 (X11; CrOS i686 2268.111.0) AppleWebKit/536.11 (KHTML, like Gecko) Chrome/20.0.1132.57 Safari/536.11
  18.  
    ua.firefox
  19.  
    # Mozilla/5.0 (Windows NT 6.2; Win64; x64; rv:16.0.1) Gecko/20121011 Firefox/16.0.1
  20.  
    ua.ff
  21.  
    # Mozilla/5.0 (X11; Ubuntu; Linux i686; rv:15.0) Gecko/20100101 Firefox/15.0.1
  22.  
    ua.safari
  23.  
    # Mozilla/5.0 (iPad; CPU OS 6_0 like Mac OS X) AppleWebKit/536.26 (KHTML, like Gecko) Version/6.0 Mobile/10A5355d Safari/8536.25
  24.  
     
  25.  
    # 最好的,經過真實世界的瀏覽器使用統計隨機
  26.  
    ua.random
相關文章
相關標籤/搜索