Python爬蟲(八)_正則表達式

什麼是正則表達式

正則表達式，又稱規則表達式，一般被用來檢索、替換那些符合某個模式（規則）的文本。
正則表達式是對字符串操做的一種邏輯公式，就是用事先定義好的一些特定字符、及這些特定字符的組合，組成一個「規則字符串」，這個「規則字符串」用來表達對字符串的一些過濾邏輯。
給定一個正則表達式和另外一個字符串，咱們能夠達到以下的目的：

• 給定的字符串是否符合正則表達式的過濾邏輯(「匹配」)
• 經過正則表達式，從文本字符串中獲取到咱們想要的特定部分（「過濾」）

正則表達式匹配規則

Python的re模塊

在python中，咱們可使用內置的re模塊來使用正則表達式。
有一點須要特別注意的是，正則表達式使用對特殊字符進行轉義，因此若是咱們要使用原始字符串，只須要一個r前綴，示例：

r'chuanzhiboke\t\.\tpython'

re模塊的通常使用步驟以下：

1. 使用compile()函數將正則表達式的字符串形式編譯爲一個Pattern對象
   
2. 經過Pattern對象提供的一系列方法將文本進行匹配查找，得到匹配結果(一個Match對象)
   
3. 最後使用Match對象提供的屬性和方法得到信息，根據須要進行其餘的操做。

compile對象

compile函數用於編譯正則表達式，生成一個Pattern對象，它的通常使用形式以下：

import re

#將正則表達式編譯爲Pattern對象
pattern = re.compile(r'\d+')

在上面，咱們已將一個正則表達式編譯成Pattern對象，接下來，咱們就能夠利用pattern的一系列方法對文本進行匹配查找了。
Pattern對象的一些經常使用方法主要有：

• match對象：從起始位置開始查找，一次匹配。
  
• search對象：從任何位置開始查找，一次匹配。
  
• findall()對象：所有匹配，返回列表。
  
• finditer()對象：所有匹配，返回迭代器。
  
• spilt()對象：分割字符串，返回列表
• sub()對象：替換

match 方法
match方法用於查找字符串的頭部(也能夠指定起始位置)，它是一次匹配，只要找到了一個匹配的結果返回，而不是查找全部匹配的結果，它的通常使用形式以下：

match(string[, pos[, endpos]])

其中，string是待匹配的字符串，pos和endpos是可選參數，指定字符串的起始和終點位置，默認值分別是0和len(字符串長度)。所以，當你不指定pos和endpos時，match方法默認匹配字符串的頭部。

當匹配成功時，返回一個Match對象，若是沒有匹配上，則返回None。

>>>import re
>>>pattern = re.compile(r'\d+')  #用於匹配至少一個數字

>>>m = pattern.match('one12twothree34four')  #查找頭部，沒有匹配
>>>print(m) #若是沒有匹配上，就什麼也不輸出

>>>m = pattern.match('one12twothree34four', 2, 10) #從'e'的位置開始匹配，沒有匹配到
>>>print(m)
>>>m = pattern.match('one12twothree34four', 3, 10) #從'1' 的位置開始匹配，正好匹配上
>>>print(m)
<_sre.SRE_Match object at 0x10a42aac0>
>>>m.group(0)   #可忽略0
'12'
>>>m.start(0)   #可忽略0
3
>>>m.end(0)    #可忽略0
5
>>>m.span(0)  #可忽略0
(3, 5)

在上面，當匹配成功時返回一個Match對象，其中：

• group([group1,...])方法用於得到一個或多個分組匹配的字符串，當要得到整個匹配字符串的子串時，可直接使用group()或group(0);
  
• start([group])方法用於獲取分組匹配的子串在整個字符串中的起始位置（子串第一個字符的索引）,參數默認值爲0；
  
• end([group])方法用於獲取分組匹配的子串在整個字符串中的結束位置（子串最後一個字符的索引+1）,參數默認值是0
  
• span([group])方法返回(start[group], end(group))

>>>import re
>>>pattern = re.compile(r'([a-z]+) （[a-z]+)', re.I) #表示忽略大小寫
>>>m = pattern.match('hello world wide web')

>>>print(m)  #匹配成功，返回一個Match對象
<_sre.SRE_Match object at 0x10bea83e8>

>>>m.group(0)  #返回匹配成功的整個子串
'Hello World'

>>>m.span(0)   #返回匹配成功的整個子串
(0, 11)

>>>m.group(1)   #返回第一個分組匹配成功的子串
'Hello'

>>>m.span(1)  #返回第一個分組匹配成功
(0, 5)

>>>m.group(2)   #返回第2個分組匹配成功的子串
'World'

>>>m.span(2)     #返回第2個分組匹配成功的子串的位置
(6, 11)

>>>m.groups()   #等價於(m.group(1), m.group(2), ...)
('Hello', 'World')

>>>m.group(3)   #不存在第3個分組
Traceback (most recent call last):
  File "<stdin>", line 1, in <module>
IndexError: no such group

search方法
search方法用於查找字符串的任何位置，它也是一次匹配，只要找到了一個匹配的結果就返回，而不是查找全部匹配的結果，它的通常使用形式以下：

search[string[, pos[, endpos]]]

 

其中，string是待匹配的字符串，pos和endpos是可選參數，指定字符串的起始和終點位置，默認值分別是0和len(字符串長度)。
當匹配成功時，返回一個Match對象，若是沒有匹配上，則返回None。
讓咱們看看例子：

>>>import re
>>>pattern = re.compile('\d+')
>>>m = pattern.search('one12twothree34four')  #這裏若是使用match方法則不匹配
>>>m
<_sre.SRE_Match object at 0x10cc03ac0>
>>>m.group()
'12'
>>>m = pattern.search('one12twothree34four', 10, 30)   #指定字符串區間  
>>>m
<_sre.SRE_Match object at 0x10cc03b28>
>>>m.group()
'34'
>>>m.span()
(13, 15)

在看一個例子：

# coding:utf-8
import re
#將正則表達式編譯成Pattern對象
pattern = re.compile(r'\d+')
#使用search()方法查找匹配的字符串，不存在匹配的子串時將不返回
m = pattern.search('hello 123456 789')
if m:
    #使用Match得到分組信息
    print('matching string：',m.group())
    #起始位置和結束位置
    print('position: ',m.span())

執行結果

matching string: 123456 position:(6,12)

findall 方法
上面的match和search方法都是一次匹配，只要找到了一個匹配的結果就返回。然而，在大多數時候，咱們須要搜索整個字符串，得到全部匹配的結果。
findall方法的使用形式以下：

findall(string[, pos[, endpos]])

其中，string是待匹配的字符串，pos和endpos是可選參數，指定字符串的起始和終點位置分別是0和len(字符串長度)。
findall是以列表形式返回所有能匹配到的子串，若是沒有匹配，則返回一個空列表。

import re
pattern = re.compile(r'\d+')  #查找數字

result1 = pattern.findall('hello 123456 789')
result2 = pattern.findall('one1two2three3four4', 0, 10)

print(result1)
print(2)

執行結果以下：

['123456', '789']
['1', '2']

再來看一個例子：

import re
#re模塊提供一個方法叫compile提供，提供咱們輸入一個匹配的規則
#而後返回一個pattern實例，咱們根據這個規則去匹配字符串
pattern = re.compile(r'd+\.\d*')

#經過pattern.findall()方法可以所有匹配到咱們獲得的字符串
result = pattern.findall("123.141593, 'bigcat', 232312, 3.15")

#findall以列表形式 返回所有能匹配到的子串給result
for item in result:
    print(item)

 

運行結果：

123.141593
3.15

 

finditer方法
finditer方法的行爲跟findall的行爲相似，也是搜索整個字符串，得到全部匹配的結果。但它返回一個順序訪問每個匹配結果(Match對象)的迭代器。

#coding:utf-8
import re

pattern = re.compile(r'\d+')

result1 = pattern.finditer('hello 123456 789')
result2 = pattern.finditer('one1two2three3four4', 0, 10)
print(result1)
print(result2)
print('result1....')
for m1 in result1:
    print("matching string:{} position:{}".format(m1.group(), m1.span()))

print('result2....')
for m2 in result2:
    print("matching string:{} position:{}".format(m2.group(), m2.span()))

 

執行結果：

<type 'callable-iterator'>
<type 'callable-iterator'>
result1.
matching string: 123456, position: (6, 12)
matching string: 789, position: (13, 16)
result2
matching string: 1, position: (3, 4)
matching string: 2, position: (7, 8)

 

split 方法
split方法按照可以匹配的子串將字符串分割後返回列表，它的使用形式以下：

split(string[, maxsplit])

 

其中，maxsplit用於指導最大分割次數，不知道靜所有分割。
看看例子：

import re
p = re.compile(r'[\s\,;]+')
print(p.split('a,b;;c   d'))

 

執行結果：

['a', 'b', 'c', 'd']

 

sub方法
sub方法用於替換。它的使用形式以下：

sub(repl, string[, count])

其中，repl能夠是字符串也能夠是一函數：

• 若是repl是字符串，則會使用repl去替換字符串每個匹配的子串，並返回替換後的字符串，repl還可使用id的形式來引用過度組，但不能使用編號0；
  
• 若是repl是函數，這個方法應當只接受一個參數(Match對象)，並返回一個字符串用於替換(返回的字符串中不能再引用分組)。
  
• count用於指導最多替換次數，不指定時所有替換。

看看例子：

import re
p = re.compile(r'(\w+) (\w+)')  #\w=[A-Za-z0-9]
s = 'hello 123, hello 456'

print(p.sub(r'hello world', s))   #使用'hello world'替換'hello 123'和'hello 456'
print(p.sub(r'\2 \1', s))

def func(m):
    return 'hi' + ' ' + m.group(2)

print(p.sub(func, s))
print(p.sub(func, s, 1))

 

執行結果：

hello world, hello world
123 hello, 456 hello
hi 123, hi 456
hi 123, hello 456

 

匹配中文
在某些狀況下，咱們想要匹配文本中的漢字，有一點須要注意的是，中文的unicode編碼範圍主要在[u4e00-u9fa5]，這裏說主要是由於這個範圍並不完整，好比沒有包括全角(中文)標點，不過，在大部分狀況下，應該是夠用的。
假設如今想把字符串title=u'你好，hello，世界'中的中文提取出來，能夠這麼作：

import re
title = u'你好，hello，世界'
pattern = re.compile(u'[\u4e00-\u9fa5]+')
result = pattern.findall(title)

print(result)

 

注意到，咱們在正則表達式前面加上了前綴u，u表示unicode字符串。
執行結果：

['你好', '世界']

 

注意：貪婪模式與非貪婪模式

1. 貪婪模式：在整個表達式匹配成功的前提下，儘量多的匹配(*);
   
2. 非貪婪模式：在整個表達式匹配成功的前提下，儘量少的匹配(?);
   
3. Python裏數量詞默認是貪婪的。

實例一：源字符串：abbbc

• 使用貪婪的數量詞的正則表達式ab+,匹配結果：abbb。

  *決定了儘量多匹配b，因此a後面全部的b都出現了。

• 使用非貪婪的數量詞的正則表達式ab*?，匹配結果：a。

  即便前面有*,可是?決定了儘量少匹配b，因此沒有b。

實例二：源字符串：aa<div>test1</div>bb<div>test2</div>cc

• 使用貪婪的數量詞的正則表達式：<div>.*</div>
  

• 匹配結果：<div>test1</div>bb<div>test2</div>

  這裏採用的是貪婪模式。在匹配到第一個「</div>」時已經可使整個表達式匹配成功，可是因爲採用的是貪婪模式，因此仍然要向右嘗試匹配，查看是否還有更長的能夠成功匹配的子串。匹配到第二個「</div>」後，向右再沒有能夠成功匹配的子串，匹配結束，匹配結果爲「<div>test1</div>bb<div>test2</div>」

• 使用非貪婪的數量詞的正則表達式：<div>.*?</div>

• 匹配結果：<div>test1</div>

  正則表達式二採用的是非貪婪模式，在匹配到第一個「</div>」時使整個表達式匹配成功，因爲採用的是非貪婪模式，因此結束匹配，再也不向右嘗試，匹配結果爲「<div>test1</div>」。

參考

1. 正則表達式測試網址
   
2. 廖雪峯-正則表達式
   
3. Python正則匹配中文與編碼總結