爬蟲基礎(正則的使用)--03

 什麼是正則表達式

正則表達式是對字符串操做的一種邏輯公式，就是 事先定義好的一些特定字符、及這些特定字符的組合，組成一個「規則字符」，這個「規則字符」 來表達對字符的一種過濾邏輯。

正則並非python獨有的，其餘語言也都有正則
python中的正則，封裝了re模塊

python正則的詳細講解

經常使用的匹配模式

\w      匹配字母數字及下劃線
\W      匹配非(字母/數字/下劃線)
\s      匹配任意空白字符，等價於[\t\n\r\f]
\S      匹配任意非空字符
\d      匹配任意數字
\D      匹配任意非數字
\A      匹配字符串開始
\Z      匹配字符串結束，若是存在換行，只匹配換行前的結束字符串
\z      匹配字符串結束
\G      匹配最後匹配完成的位置
\n      匹配一個換行符
\t      匹配一個製表符
^       匹配字符串的開頭
$       匹配字符串的末尾
.       匹配任意字符，除了換行符，re.DOTALL標記被指定時，則能夠匹配包括換行符的任意字符
[....]  用來表示一組字符，單獨列出：[amk]匹配a,m或k
[^...]  不在[]中的字符：[^abc]匹配除了a,b,c以外的字符
*       匹配0個或多個的表達式
+       匹配1個或者多個的表達式
?       匹配0個或1個由前面的正則表達式定義的片斷，非貪婪方式
{n}     精確匹配n前面的表示
{n,m}   匹配n到m次由前面的正則表達式定義片斷，貪婪模式
a|b     匹配a或者b
()      匹配括號內的表達式，也表示一個組

re.match()

嘗試從字符串的起始位置匹配一個模式，若是不是起始位置匹配的話，match（）就會返回None
語法格式：
re.match(pattern,string,flags=0)

最常規的匹配

import re

content= "hello 123 4567 World_This is a regex Demo"
result = re.match('^hello\s\d\d\d\s\d{4}\s\w{10}.*Demo$',content)
print(result)
print(result.group())
print(result.span())

結果以下：

result.group()獲取匹配的結果
result.span()獲去匹配字符串的長度範圍
泛匹配

其實相對來講上面的方式並非很是方便，其實能夠將上述的正則規則進行更改

import re

content= "hello 123 4567 World_This is a regex Demo"
result = re.match("^hello.*Demo$",content)
print(result)
print(result.group())
print(result.span())

這段代碼的結果和上面常規匹配的結果是同樣的，可是寫起來會方便不少

匹配目標

若是爲了匹配字符串中具體的目標，則須要經過（）括起來，例子以下：

import re
content= "hello 1234567 World_This is a regex Demo"
result = re.match('^hello\s(\d+)\sWorld.*Demo$',content)
print(result)
print(result.group())
print(result.group(1))
print(result.span())

結果以下：

這裏須要說一下的是經過re.group()得到結果後，若是正則表達式中有括號，則re.group(1)獲取的就是第一個括號中匹配的結果

貪婪匹配

先看下面代碼：

import re

content= "hello 1234567 World_This is a regex Demo"
result= re.match('^hello.*(\d+).*Demo',content)
print(result)
print(result.group(1))

這段代碼的結果是

從結果中能夠看出只匹配到了7，並無匹配到1234567，出現這種狀況的緣由是前面的.* 給匹配掉了， .*在這裏會儘量的匹配多的內容，也就是咱們所說的貪婪匹配，

若是咱們想要匹配到1234567則須要將正則表達式改成：

result= re.match('^he.*?(\d+).*Demo',content)

這樣結果就能夠匹配到1234567

匹配模式

不少時候匹配的內容是存在換行的問題的，這個時候的就須要用到匹配模式re.S來匹配換行的內容

import re


content = """hello 123456 world_this
my name is zhaofan
"""

result =re.match('^he.*?(\d+).*?zhaofan$',content,re.S)
print(result)
print(result.group())
print(result.group(1))

結果以下

轉義

當咱們要匹配的內容中存在特殊字符的時候，就須要用到轉移符號\,例子以下：

import re

content= "price is $5.00"

result = re.match('price is \$5\.00',content)
print(result)
print(result.group())

對上面的一個小結：
儘可能使用泛匹配，使用括號獲得匹配目標，儘可能使用非貪婪模式，有換行符就用re.S
強調re.match是從字符串的起始位置匹配一個模式

re.search

re.search掃描整個字符串返回第一個成功匹配的結果

 

import re

content = "extra things hello 123455 world_this is a Re Extra things"

result = re.search("hello.*?(\d+).*?Re",content)
print(result)
print(result.group())
print(result.group(1))

結果以下：

其實這個時候咱們就不須要在寫^以及$，由於search是掃描整個字符串

 

注意：因此爲了匹配方便，咱們會更多的用search，不用match,match必須匹配頭部，因此不少時候不是特別方便

匹配演練

例子1：

 

import re

html = '''<div id="songs-list">
    <h2 class="title">經典老歌</h2>
    <p class="introduction">
        經典老歌列表
    </p>
    <ul id="list" class="list-group">
        <li data-view="2">一路上有你</li>
        <li data-view="7">
            <a href="/2.mp3" singer="任賢齊">滄海一聲笑</a>
        </li>
        <li data-view="4" class="active">
            <a href="/3.mp3" singer="齊秦">往事隨風</a>
        </li>
        <li data-view="6"><a href="/4.mp3" singer="beyond">光輝歲月</a></li>
        <li data-view="5"><a href="/5.mp3" singer="陳慧琳">記事本</a></li>
        <li data-view="5">
            <a href="/6.mp3" singer="鄧麗君">希望人長久</a>
        </li>
    </ul>
</div>'''

result = re.search('<li.*?active.*?singer="(.*?)">(.*?)</a>',html,re.S)
print(result)
print(result.groups())
print(result.group(1))
print(result.group(2))

結果爲：

re.findall

搜索字符串，以列表的形式返回所有能匹配的子串

代碼例子以下：

import re

html = '''<div id="songs-list">
    <h2 class="title">經典老歌</h2>
    <p class="introduction">
        經典老歌列表
    </p>
    <ul id="list" class="list-group">
        <li data-view="2">一路上有你</li>
        <li data-view="7">
            <a href="/2.mp3" singer="任賢齊">滄海一聲笑</a>
        </li>
        <li data-view="4" class="active">
            <a href="/3.mp3" singer="齊秦">往事隨風</a>
        </li>
        <li data-view="6"><a href="/4.mp3" singer="beyond">光輝歲月</a></li>
        <li data-view="5"><a href="/5.mp3" singer="陳慧琳">記事本</a></li>
        <li data-view="5">
            <a href="/6.mp3" singer="鄧麗君">希望人長久</a>
        </li>
    </ul>
</div>'''

results = re.findall('<li.*?href="(.*?)".*?singer="(.*?)">(.*?)</a>', html, re.S)
print(results)
print(type(results))
for result in results:
    print(result)
    print(result[0], result[1], result[2])

結果以下：

例子2：

import re

html = '''<div id="songs-list">
    <h2 class="title">經典老歌</h2>
    <p class="introduction">
        經典老歌列表
    </p>
    <ul id="list" class="list-group">
        <li data-view="2">一路上有你</li>
        <li data-view="7">
            <a href="/2.mp3" singer="任賢齊">滄海一聲笑</a>
        </li>
        <li data-view="4" class="active">
            <a href="/3.mp3" singer="齊秦">往事隨風</a>
        </li>
        <li data-view="6"><a href="/4.mp3" singer="beyond">光輝歲月</a></li>
        <li data-view="5"><a href="/5.mp3" singer="陳慧琳">記事本</a></li>
        <li data-view="5">
            <a href="/6.mp3" singer="鄧麗君">希望人長久</a>
        </li>
    </ul>
</div>'''

results = re.findall('<li.*?>\s*?(<a.*?>)?(\w+)(</a>)?\s*?</li>',html,re.S)
print(results)
for result in results:
    print(result[1])

結果以下：

其實這裏咱們就能夠看出

\s*? 這種用法其實就是爲了解決有的有換行，有的沒有換行的問題

(<a.*?>)? 這種用法是由於html中有的有a標籤，有的沒有的，？表示匹配一個或0個，正好能夠用於匹配

re.sub

替換字符串中每個匹配的子串後返回替換後的字符串

re.sub(正則表達式，替換成的字符串，原字符串)

例子1

import re

content = "Extra things hello 123455 World_this is a regex Demo extra things"

content = re.sub('\d+','',content)
print(content)

結果會講數字替換爲爲空：

例子2,在有些狀況下咱們替換字符的時候，還想獲取咱們匹配的字符串，而後在後面添加一些內容，能夠經過下面方式實現：

import re

content = "Extra things hello 123455 World_this is a regex Demo extra things"

content = re.sub('(\d+)',r'\1 7890',content)
print(content)

結果以下：

 

這裏須要注意的一個問題是\1是獲取第一個匹配的結果，爲了防止轉義字符的問題，咱們須要在前面加上r

re.compile

將正則表達式編譯成正則表達式對象，方便複用該正則表達式

 

import re
content= """hello 12345 world_this
123 fan
"""

pattern =re.compile("hello.*fan",re.S)

result = re.match(pattern,content)
print(result)
print(result.group())

正則的綜合練習

獲取豆瓣網書籍的頁面的書籍信息，經過正則實現

 

 

 

 

import requests
import re
content = requests.get('https://book.douban.com/').text
pattern = re.compile('<li.*?cover.*?href="(.*?)".*?title="(.*?)".*?more-meta.*?author">(.*?)</span>.*?year">(.*?)</span>.*?</li>', re.S)
results = re.findall(pattern, content)
print(results)

for result in results:
    url,name,author,date = result
    author = re.sub('\s','',author)
    date = re.sub('\s','',date)
    print(url,name,author,date)

結果以下：