python 正則表達式 re 模塊總結

時間 2021-08-12

標籤 html python git 正則表達式 json segmentfault scrapy 工具學習 url 欄目 Python 简体版

原文原文鏈接

孤獨中，你能夠得到一切，除了品格。—— 司湯達《紅與黑》

概述

前面一篇文章 python使用正則表達式從json字符串中取出特定字段的值簡單使用了 re 模塊的方法，可是對其餘的方法並不熟悉，爲了更全面的瞭解和使用 python 中的 re，這裏將本身學習的過程記錄下來。html

使用爬蟲爬取網頁數據的過程當中，須要利用各類工具解析網頁中的數據，好比：etree，BeautifulSoup，scrapy 等工具，可是功能最強大的仍是正則表達式，下面將對 python 的 re 模塊方法作一個總結。python

Python 經過 re 模塊提供對正則表達式的支持。使用 re 的通常步驟是：git

使用 re.compile(正則表達式) 將正則表達式的字符串形式編譯爲Pattern實例
使用Pattern實例提供的方法處理文本並得到匹配結果（一個Match實例）
使用Match實例得到信息，進行其餘的操做

一個簡單的例子：正則表達式

# -*- coding: utf-8 -*-
import re

if __name__ == '__main__':
    # 將正則表達式編譯成Pattern對象
    pattern = re.compile(r'hello')

    # 使用Pattern匹配文本，得到匹配結果，沒法匹配時將返回None
    match = pattern.match('hello world!')

    if match:
        # 使用Match得到分組信息
        print(match.group()) # 輸出結果：hello

使用原生字符串定義正則表達式能夠方便的解決轉義字符的問題json

原生字符串的定義方式爲：r''segmentfault

有了原生字符串，不須要手動添加轉義符號，它會自動轉義，寫出來的表達式也更直觀。scrapy

1. 使用 re

re.compile(strPattern[, flag]): 工具

這個方法是Pattern類的工廠方法，用於將字符串形式的正則表達式編譯爲Pattern對象。學習

第一個參數：正則表達式字符串url

第二個參數（可選）：是匹配模式，取值可使用按位或運算符'|'表示同時生效，好比 re.I | re.M。

可選值以下：

re.I(re.IGNORECASE): 忽略大小寫（括號內是完整寫法，下同）
M(MULTILINE): 多行模式，改變'^'和'$'的行爲
S(DOTALL): 點任意匹配模式，改變'.'的行爲
L(LOCALE): 使預約字符類 \w \W \b \B \s \S 取決於當前區域設定
U(UNICODE): 使預約字符類 \w \W \b \B \s \S \d \D 取決於unicode定義的字符屬性

X(VERBOSE): 詳細模式。這個模式下正則表達式能夠是多行，忽略空白字符，並能夠加入註釋。如下兩個正則表達式是等價的：

a = re.compile(r"""\d +  # the integral part
                   \.    # the decimal point
                   \d *  # some fractional digits""", re.X)
b = re.compile(r"\d+\.\d*")

re 提供了衆多模塊方法用於完成正則表達式的功能。這些方法可使用Pattern實例的相應方法替代，惟一的好處是少寫一行re.compile()代碼，但同時也沒法複用編譯後的Pattern對象。這些方法將在Pattern類的實例方法部分一塊兒介紹。如上面這個例子能夠簡寫爲：

m = re.match(r'hello', 'hello world!')
print m.group()

2. 使用 Pattern

Pattern 對象是一個編譯好的正則表達式，經過 Pattern 提供的一系列方法能夠對文本進行匹配查找。

Pattern 對象不能直接實例化，必須使用 re.compile() 來獲取。

2.1 Pattern 對象的屬性

Pattern 提供了幾個可讀屬性用於獲取表達式的相關信息：

pattern: 編譯時用的表達式字符串。
flags: 編譯時用的匹配模式，數字形式。
groups: 表達式中分組的數量。
groupindex: 以表達式中有別名的組的別名爲鍵、以該組對應的編號爲值的字典，沒有別名的組不包含在內。

# -*- coding: utf-8 -*-
import re

if __name__ == '__main__':
    text = 'hello world'
    p = re.compile(r'(\w+) (\w+)(?P<sign>.*)', re.DOTALL)

    print("p.pattern:", p.pattern)
    print("p.flags:", p.flags)
    print("p.groups:", p.groups)
    print("p.groupindex:", p.groupindex)

輸出結果以下：

p.pattern: (\w+) (\w+)(?P<sign>.*)
p.flags: 48
p.groups: 3
p.groupindex: {'sign': 3}

2.2 Pattern 對象的方法

1. match(string[, pos[, endpos]]) | re.match(pattern, string[, flags]):

若是 string 的 開始位置 可以找到這個正則樣式的任意個匹配，就返回一個相應的 Match對象。

若是匹配過程當中pattern沒法匹配，或者匹配未結束就已到達endpos，則返回None。

pos 和endpos 的默認值分別爲 0 和 len(string)；

re.match() 沒法指定這兩個參數，參數flags用於編譯pattern時指定匹配模式。

注意：這個方法並非徹底匹配。當pattern結束時若string還有剩餘字符，仍然視爲成功。想要徹底匹配，能夠在表達式末尾加上邊界匹配符'$'。

2. search(string[, pos[, endpos]]) | re.search(pattern, string[, flags]):

這個方法用於查找字符串中能夠匹配成功的子串。

從string的pos下標處起嘗試匹配pattern，若是pattern結束時仍可匹配，則返回一個Match對象；

若沒法匹配，則將pos加1後從新嘗試匹配；直到pos=endpos時仍沒法匹配則返回None。

pos和endpos的默認值分別爲 0 和 len(string)；

re.search()沒法指定這兩個參數，參數flags用於編譯pattern時指定匹配模式。

一個簡單的例子：

# -*- coding: utf-8 -*-
import re

if __name__ == '__main__':
    # 將正則表達式編譯成Pattern對象
    pattern = re.compile(r'world')

    # 使用search()查找匹配的子串，不存在能匹配的子串時將返回None
    # 這個例子中使用match()沒法成功匹配
    match = pattern.search('hello world!')

    if match:
        # 使用Match得到分組信息
        print(match.group()) # 輸出結果：world

注意 match 方法和 search 方法的區別

3. split(string[, maxsplit]) | re.split(pattern, string[, maxsplit]):

按照可以匹配的子串將string分割後返回列表。

maxsplit 用於指定最大分割次數，不指定將所有分割。

# -*- coding: utf-8 -*-
import re

if __name__ == '__main__':
    p = re.compile(r'\d+')
    # 按照數字分隔字符串
    print(p.split('one1two2three3four4')) # 輸出結果：['one', 'two', 'three', 'four', '']

4. findall(string[, pos[, endpos]]) | re.findall(pattern, string[, flags]):

搜索 string，以列表形式返回所有能匹配的子串。

#!/usr/bin/env python
# -*- coding:utf-8 -*-
import re

if __name__ == '__main__':
    p = re.compile(r'\d+')
    # 找到全部的數字，以列表的形式返回
    print(p.findall('one1two2three3four4')) # 輸出結果：['1', '2', '3', '4']

5. finditer(string[, pos[, endpos]]) | re.finditer(pattern, string[, flags]):

搜索 string，返回一個順序訪問每個匹配結果（Match對象）的迭代器。

#!/usr/bin/env python
# -*- coding:utf-8 -*-
import re

if __name__ == '__main__':
    p = re.compile(r'\d+')
    # 返回一個順序訪問每個匹配結果（`Match`對象）的迭代器
    for m in p.finditer('one1two2three3four4'):
        print(m.group())  # 輸出結果：1 2 3 4

6. sub(repl, string[, count]) | re.sub(pattern, repl, string[, count]):

使用 repl 替換 string 中每個匹配的子串後返回替換後的字符串。
當 repl 是一個字符串時，可使用 \id 或 \g<id> 、\g<name>引用分組，但不能使用編號0。
當 repl 是一個方法時，這個方法應當只接受一個參數（Match對象），並返回一個字符串用於替換（返回的字符串中不能再引用分組）。
count用於指定最多替換次數，不指定時所有替換。

#!/usr/bin/env python
# -*- coding:utf-8 -*-
import re

if __name__ == '__main__':
    p = re.compile(r'(\w+) (\w+)')
    s = 'i say, hello world!'

    print(p.sub(r'\1 \2 hi', s))  # 輸出結果：i say hi, hello world hi!

    def func(m):
        return m.group(1).title() + ' ' + m.group(2).title()

    print(p.sub(func, s))  # 輸出結果：I Say, Hello World!

7. subn(repl, string[, count]) |re.sub(pattern, repl, string[, count]):

subn() 方法與 sub() 方法的區別是返回結果不一樣：

subn() 方法返回的結果是一個元組：(替換後的字符串，替換次數)

sub() 方法返回的結果是一個字符串：替換後的字符串

#!/usr/bin/env python
# -*- coding:utf-8 -*-
import re

if __name__ == '__main__':
    p = re.compile(r'(\w+) (\w+)')
    s = 'i say, hello world!'

    print(p.subn(r'\1 \2 hi', s))  # 輸出結果：('i say hi, hello world hi!', 2)

    def func(m):
        return m.group(1).title() + ' ' + m.group(2).title()

    print(p.subn(func, s))  # 輸出結果：('I Say, Hello World!', 2)

3. 使用 Match

Match對象是一次匹配的結果，包含了不少關於這次匹配的信息，可使用Match提供的可讀屬性或方法來獲取這些信息。

3.1 Match 對象的屬性

string: 匹配時使用的文本。
re: 匹配時使用的Pattern對象。
pos: 文本中正則表達式開始搜索的索引。值與Pattern.match()和Pattern.seach()方法的同名參數相同。
endpos: 文本中正則表達式結束搜索的索引。值與Pattern.match()和Pattern.seach()方法的同名參數相同。
lastindex: 最後一個被捕獲的分組的索引。若是沒有被捕獲的分組，將爲None。
lastgroup: 最後一個被捕獲的分組的別名。若是這個分組沒有別名或者沒有被捕獲的分組，將爲None。

# -*- coding: utf-8 -*-
import re

if __name__ == '__main__':
    text = 'hello world'
    p = re.compile(r'(\w+) (\w+)(?P<sign>.*)', re.DOTALL)
    match = p.match(text)
    if match:
        print("match.re:", match.re)
        print("match.string:", match.string)
        print("match.endpos:", match.endpos)
        print("match.pos:", match.pos)
        print("match.lastgroup:", match.lastgroup)
        print("match.lastindex:", match.lastindex)
        
        
# 輸出結果以下：
# match.re: re.compile('(\\w+) (\\w+)(?P<sign>.*)', re.DOTALL)
# match.string: hello world
# match.endpos: 11
# match.pos: 0
# match.lastgroup: sign
# match.lastindex: 3

3.2 Match 對象的方法

1. group([group1, …]):

得到一個或多個分組截獲的字符串，指定多個參數時將以元組形式返回。

group()可使用編號也可使用別名；

編號0表明整個匹配的子串；

不填寫參數時，返回group(0)；

沒有截獲字符串的組返回None；

2. groups([default]):

以元組形式返回所有分組截獲的字符串，至關於調用group(1,2,…last)；

default表示沒有截獲字符串的組以這個值替代，默認爲None；

3. groupdict([default]):

返回已有別名的組的別名爲鍵、以該組截獲的子串爲值的字典，沒有別名的組不包含在內。default含義同上。

4. start([group]):

返回指定的組截獲的子串在string中的起始索引（子串第一個字符的索引）。group默認值爲0。

5. end([group]):

返回指定的組截獲的子串在string中的結束索引（子串最後一個字符的索引+1）。group默認值爲0。

6. span([group]):

返回(start(group), end(group))。

7. expand(template):

將匹配到的分組代入template中而後返回。template中可使用\id或\g<id>、\g<name>引用分組，但不能使用編號0。\id與\g<id>是等價的；但\10將被認爲是第10個分組，若是你想表達\1以後是字符'0'，只能使用\g<1>0。

# -*- coding: utf-8 -*-
import re

if __name__ == '__main__':
    import re
    m = re.match(r'(\w+) (\w+)(?P<sign>.*)', 'hello world!')
    print("m.group(1,2):", m.group(0, 1, 2, 3))
    print("m.groups():", m.groups())
    print("m.groupdict():", m.groupdict())
    print("m.start(2):", m.start(2))
    print("m.end(2):", m.end(2))
    print("m.span(2):", m.span(2))
    print(r"m.expand(r'\2 \1\3'):", m.expand(r'\2 \1\3'))


# 輸出結果：
# m.group(1,2): ('hello world!', 'hello', 'world', '!')
# m.groups(): ('hello', 'world', '!')
# m.groupdict(): {'sign': '!'}
# m.start(2): 6
# m.end(2): 11
# m.span(2): (6, 11)
# m.expand(r'\2 \1\3'): world hello!

參考文章

python 官方文檔

https://www.cnblogs.com/huxi/...