018-補，re模塊、正則表達式

一，re模塊

 1，判斷輸入的手機號是否合法

　　京東註冊界面：https://reg.jd.com/reg/person?ReturnUrl=https%3A//www.jd.com/

　　輸入12345678912 會提示格式不正確

　　假如用python寫一段代碼：

phone_number = input('please input your phone number ： ')

　　怎麼判斷這個phone_number是合法的呢？

　　根據手機號碼一共11位而且是隻以1三、1四、1五、18開頭的數字這些特色，咱們用python寫了以下代碼：

 判斷手機號碼是否合法1

能夠用下面的方式解決

 判斷手機號碼是否合法2

2，re模塊 和 正則表達式的關係

　　1，re模塊本質上和正則表達式沒有一毛錢的關係。re模塊和正則表達式的關係 相似於 time模塊和時間的關係，re模塊、time模塊只不過是python提供給咱們的能夠方便使用的工具

　　2，正則表達式自己 和 python沒有關係，就是匹配字符串內容的一種規則。

　　3，官方定義：正則表達式是對字符串操做的一種邏輯公式，就是用事先定義好的一些特定字符、及這些特定字符的組合，組成一個「規則字符串」，這個「規則字符串」用來表達對字符串的一種過濾邏輯。

二，正則表達式

 1，在線測試工具

　　在線測試工具 ：http://tool.chinaz.com/regex/

　　談到正則，就只和字符串相關了。在我給你提供的工具中，你輸入的每個字都是一個字符串

2，字符組

　　字符組 ： [字符組]

• 在同一個位置可能出現的各類字符，組成了一個字符組，在正則表達式中用[ ]表示
• 字符分爲不少類，好比數字、字母、標點等等。
• 假如你如今要求一個位置」只能出現一個數字」,那麼這個位置上的字符只能是0、一、2...9這10個數之一。

正則	待匹配字符	匹配 結果	說明
[0123456789]	8	True	在一個字符組裏枚舉合法的全部字符，字符組裏的任意一個字符 和"待匹配字符"相同都視爲能夠匹配
[0123456789]	a	False	因爲字符組中沒有"a"字符，因此不能匹配
[0-9]	7	True	也能夠用-表示範圍,[0-9]就和[0123456789]是一個意思
[a-z]	s	True	一樣的若是要匹配全部的小寫字母，直接用[a-z]就能夠表示
[A-Z]	B	True	[A-Z]就表示全部的大寫字母
[0-9a-fA-F]	e	True	能夠匹配數字，大小寫形式的a～f，用來驗證十六進制字符

3，字符

元字符	匹配內容
.	匹配除換行符之外的任意字符
\w	匹配字母或數字或下劃線
\s	匹配任意的空白符
\d	匹配數字
\n	匹配一個換行符
\t	匹配一個製表符
\b	匹配一個單詞的結尾
^	匹配字符串的開始
$	匹配字符串的結尾
\W	匹配非字母或數字或下劃線
\D	匹配非數字
\S	匹配非空白符
a|b	匹配字符a或字符b
()	匹配括號內的表達式，也表示一個組
[...]	匹配字符組中的字符
[^...]	匹配除了字符組中字符的全部字符

4，量詞：

量詞	用法說明
*	重複零次或更屢次
+	重複一次或更屢次
?	重複零次或一次
{n}	重複n次
{n,}	重複n次或更屢次
{n,m}	重複n到m次

5， . ^ $

正則	待匹配字符	匹配 結果	說明
海.	海燕海嬌海東	海燕海嬌海東	匹配全部"海."的字符
^海.	海燕海嬌海東	海燕	只從開頭匹配"海."
海.$	海燕海嬌海東	海東	只匹配結尾的"海.$"

6，* + ? { }

正則	待匹配字符	匹配 結果	說明
李.?	李傑和李蓮英和李二棍子	李傑 李蓮 李二	?表示重複零次或一次，即只匹配"李"後面一個任意字符
李.*	李傑和李蓮英和李二棍子	李傑和李蓮英和李二棍子	*表示重複零次或屢次，即匹配"李"後面0或多個任意字符
李.+	李傑和李蓮英和李二棍子	李傑和李蓮英和李二棍子	+表示重複一次或屢次，即只匹配"李"後面1個或多個任意字符
李.{1,2}	李傑和李蓮英和李二棍子	李傑和 李蓮英 李二棍	{1,2}匹配1到2次任意字符

 注意：前面的*,+,?等都是貪婪匹配，也就是儘量匹配，後面加?號使其變成惰性匹配

正則	待匹配字符	匹配 結果	說明
李.*?	李傑和李蓮英和李二棍子	李 李 李	惰性匹配

7，字符集［］［^］

正則	待匹配字符	匹配 結果	說明
李[傑蓮英二棍子]*	李傑和李蓮英和李二棍子	李傑 李蓮英 李二棍子	表示匹配"李"字後面[傑蓮英二棍子]的字符任意次
李[^和]*	李傑和李蓮英和李二棍子	李傑 李蓮英 李二棍子	表示匹配一個不是"和"的字符任意次
[\d]	456bdha3	4 5 6 3	表示匹配任意一個數字，匹配到4個結果
[\d]+	456bdha3	456 3	表示匹配任意個數字，匹配到2個結果

8，分組 ()與 或 ｜［^］

　　身份證號碼是一個長度爲15或18個字符的字符串，若是是15位則所有由數字組成，首位不能爲0；若是是18位，則前17位所有是數字，末位多是數字或x，下面咱們嘗試用正則來表示：

正則	待匹配字符	匹配 結果	說明
^[1-9]\d{13,16}[0-9x]$	110101198001017032	110101198001017032	表示能夠匹配一個正確的身份證號
^[1-9]\d{13,16}[0-9x]$	1101011980010170	1101011980010170	表示也能夠匹配這串數字，但這並非一個正確的身份證號碼，它是一個16位的數字
^[1-9]\d{14}(\d{2}[0-9x])?$	1101011980010170	False	如今不會匹配錯誤的身份證號了 ()表示分組，將\d{2}[0-9x]分紅一組，就能夠總體約束他們出現的次數爲0-1次
^([1-9]\d{16}[0-9x]|[1-9]\d{14})$	110105199812067023	110105199812067023	表示先匹配[1-9]\d{16}[0-9x]若是沒有匹配上就匹配[1-9]\d{14}

9，轉義符 \

　　在正則表達式中，有不少有特殊意義的是元字符，好比\n和\s等，若是要在正則中匹配正常的"\n"而不是"換行符"就須要對"\"進行轉義，變成'\\'。

　　在python中，不管是正則表達式，仍是待匹配的內容，都是以字符串的形式出現的，在字符串中\也有特殊的含義，自己還須要轉義。因此若是匹配一次"\n",字符串中要寫成'\\n'，那麼正則裏就要寫成"\\\\n",這樣就太麻煩了。這個時候咱們就用到了r'\n'這個概念，此時的正則是r'\\n'就能夠了。

正則	待匹配字符	匹配 結果	說明
\n	\n	False	由於在正則表達式中\是有特殊意義的字符，因此要匹配\n自己，用表達式\n沒法匹配
\\n	\n	True	轉義\以後變成\\，便可匹配
"\\\\n"	'\\n'	True	若是在python中，字符串中的'\'也須要轉義，因此每個字符串'\'又須要轉義一次
r'\\n'	r'\n'	True	在字符串以前加r，讓整個字符串不轉義

10，貪婪匹配

　　貪婪匹配：在知足匹配時，匹配儘量長的字符串，默認狀況下，採用貪婪匹配

正則	待匹配字符	匹配 結果	說明
<.*>	<script>...<script>	<script>...<script>	默認爲貪婪匹配模式，會匹配儘可能長的字符串
<.*?>	r'\d'	<script> <script>	加上？爲將貪婪匹配模式轉爲非貪婪匹配模式，會匹配儘可能短的字符串

幾個經常使用的非貪婪匹配 Pattern

*? 重複任意次，但儘量少重複
+? 重複1次或更屢次，但儘量少重複
?? 重複0次或1次，但儘量少重複
{n,m}? 重複n到m次，但儘量少重複
{n,}? 重複n次以上，但儘量少重複

　　.*? 的用法

. 是任意字符
* 是取 0 至 無限長度
? 是非貪婪模式。
何在一塊兒就是 取儘可能少的任意字符，通常不會這麼單獨寫，他大多用在：
.*?x

就是取前面任意長度的字符，直到一個x出現

　　

三，re模塊下的經常使用方法

1，re模塊下的經常使用方法

import re

ret = re.findall('a', 'eva egon yuan')  
# 返回全部知足匹配條件的結果,放在列表裏
print(ret) #結果 : ['a', 'a']

ret = re.search('a', 'eva egon yuan').group()
print(ret) #結果 : 'a'
# 函數會在字符串內查找模式匹配,直到找到第一個匹配而後返回一個包含匹配信息的對象,
# 該對象能夠經過調用group()方法獲得匹配的字符串,
#若是字符串沒有匹配，則返回None。

ret = re.match('a', 'abc').group()  
# 同search,不過盡在字符串開始處進行匹配
print(ret)#結果 : 'a'

ret = re.split('[ab]', 'abcd')
# 先按'a'分割獲得''和'bcd',在對''和'bcd'分別按'b'分割
print(ret)  # ['', '', 'cd']

ret = re.sub('\d', 'H', 'eva3egon4yuan4', 1)
#將數字替換成'H'，參數1表示只替換1個
print(ret) #evaHegon4yuan4

ret = re.subn('\d', 'H', 'eva3egon4yuan4')
#將數字替換成'H'，返回元組(替換的結果,替換了多少次)
print(ret)

obj = re.compile('\d{3}')
#將正則表達式編譯成爲一個 正則表達式對象，規則要匹配的是3個數字
ret = obj.search('abc123eeee')
#正則表達式對象調用search，參數爲待匹配的字符串
print(ret.group())  #結果 ： 123

import re
ret = re.finditer('\d', 'ds3sy4784a')   
#finditer返回一個存放匹配結果的迭代器
print(ret)  # <callable_iterator object at 0x10195f940>
print(next(ret).group())  #查看第一個結果
print(next(ret).group())  #查看第二個結果
print([i.group() for i in ret])  #查看剩餘的左右結果

　　注意：

　　1.1，findall的優先級查詢：

import re
ret = re.findall('www.(baidu|oldboy).com', 'www.oldboy.com')
print(ret)  # ['oldboy']     
# 這是由於 findall 會優先把匹配結果組裏內容返回,若是想要匹配結果,取消權限便可

ret = re.findall('www.(?:baidu|oldboy).com', 'www.oldboy.com')
print(ret)  # ['www.oldboy.com']

　　1.2，split 的優先級查詢

ret=re.split("\d+","eva3egon4yuan")
print(ret) #結果 ： ['eva', 'egon', 'yuan']

ret=re.split("(\d+)","eva3egon4yuan")
print(ret) #結果 ： ['eva', '3', 'egon', '4', 'yuan']

#在匹配部分加上（）以後所切出的結果是不一樣的，
#沒有（）的沒有保留所匹配的項，可是有（）的卻可以保留了匹配的項，
#這個在某些須要保留匹配部分的使用過程是很是重要的。

　　

四，綜合練習與擴展

1，匹配標籤

import re ret = re.search("<(?P<tag_name>\w+)>\w+</(?P=tag_name)>","<h1>hello</h1>") #還能夠在分組中利用?<name>的形式給分組起名字 #獲取的匹配結果能夠直接用group('名字')拿到對應的值
print(ret.group('tag_name'))  #結果 ：h1
print(ret.group())  #結果 ：<h1>hello</h1>
 ret = re.search(r"<(\w+)>\w+</\1>","<h1>hello</h1>") #若是不給組起名字，也能夠用\序號來找到對應的組，表示要找的內容和前面的組內容一致 #獲取的匹配結果能夠直接用group(序號)拿到對應的值
print(ret.group(1)) print(ret.group())  #結果 ：<h1>hello</h1>

View Code

2，匹配整數

import re ret=re.findall(r"\d+","1-2*(60+(-40.35/5)-(-4*3))") print(ret) #['1', '2', '60', '40', '35', '5', '4', '3']
ret=re.findall(r"-?\d+\.\d*|(-?\d+)","1-2*(60+(-40.35/5)-(-4*3))") print(ret) #['1', '-2', '60', '', '5', '-4', '3']
ret.remove("") print(ret) #['1', '-2', '60', '5', '-4', '3']

View Code

3，數字匹配

1、 匹配一段文本中的每行的郵箱 http://blog.csdn.net/make164492212/article/details/51656638

二、 匹配一段文本中的每行的時間字符串，好比：‘1990-07-12’； 分別取出1年的12個月（^(0?[1-9]|1[0-2])$）、 一個月的31天：^((0?[1-9])|((1|2)[0-9])|30|31)$ 三、 匹配qq號。(騰訊QQ號從10000開始)  ［1,9］[0,9]{4,} 四、 匹配一個浮點數。       ^(-?\d+)(\.\d+)?$   或者  -?\d+\.?\d*

五、 匹配漢字。             ^[\u4e00-\u9fa5]{0,}$ 六、 匹配出全部整數

View Code

4，爬蟲練習

import requests import re import json def getPage(url): response=requests.get(url) return response.text def parsePage(s): com=re.compile('<div class="item">.*?<div class="pic">.*?<em .*?>(?P<id>\d+).*?<span class="title">(?P<title>.*?)</span>'
                   '.*?<span class="rating_num" .*?>(?P<rating_num>.*?)</span>.*?<span>(?P<comment_num>.*?)評價</span>',re.S) ret=com.finditer(s) for i in ret: yield { "id":i.group("id"), "title":i.group("title"), "rating_num":i.group("rating_num"), "comment_num":i.group("comment_num"), } def main(num): url='https://movie.douban.com/top250?start=%s&filter='%num response_html=getPage(url) ret=parsePage(response_html) print(ret) f=open("move_info7","a",encoding="utf8") for obj in ret: print(obj) data=json.dumps(obj,ensure_ascii=False) f.write(data+"\n") if __name__ == '__main__': count=0 for i in range(10): main(count) count+=25

View Code

import re import json from urllib.request import urlopen def getPage(url): response = urlopen(url) return response.read().decode('utf-8') def parsePage(s): com = re.compile( '<div class="item">.*?<div class="pic">.*?<em .*?>(?P<id>\d+).*?<span class="title">(?P<title>.*?)</span>'
        '.*?<span class="rating_num" .*?>(?P<rating_num>.*?)</span>.*?<span>(?P<comment_num>.*?)評價</span>', re.S) ret = com.finditer(s) for i in ret: yield { "id": i.group("id"), "title": i.group("title"), "rating_num": i.group("rating_num"), "comment_num": i.group("comment_num"), } def main(num): url = 'https://movie.douban.com/top250?start=%s&filter=' % num response_html = getPage(url) ret = parsePage(response_html) print(ret) f = open("move_info7", "a", encoding="utf8") for obj in ret: print(obj) data = str(obj) f.write(data + "\n") count = 0 for i in range(10): main(count) count += 25

簡化版

flags有不少可選值： re.I(IGNORECASE)忽略大小寫，括號內是完整的寫法 re.M(MULTILINE)多行模式，改變^和$的行爲 re.S(DOTALL)點能夠匹配任意字符，包括換行符 re.L(LOCALE)作本地化識別的匹配，表示特殊字符集 \w, \W, \b, \B, \s, \S 依賴於當前環境，不推薦使用 re.U(UNICODE) 使用\w \W \s \S \d \D使用取決於unicode定義的字符屬性。在python3中默認使用該flag re.X(VERBOSE)冗長模式，該模式下pattern字符串能夠是多行的，忽略空白字符，並能夠添加註釋

flags