1. 正則表達(dá)式的引出
范例1:
你怎么判斷這個(gè)phone_number是合法的呢?
根據(jù)手機(jī)號(hào)碼一共11位并且是只以13、14逞壁、15流济、18開頭的數(shù)字這些特點(diǎn),我們用python寫了如下代碼:
while True:
phone_number = input('please input your phone number : ')
if len(phone_number) == 11 \
and phone_number.isdigit()\
and (phone_number.startswith('13') \
or phone_number.startswith('14') \
or phone_number.startswith('15') \
or phone_number.startswith('18')):
print('是合法的手機(jī)號(hào)碼')
else:
print('不是合法的手機(jī)號(hào)碼')
執(zhí)行結(jié)果:
please input your phone number : 1923
不是合法的手機(jī)號(hào)碼
please input your phone number : 18123456789
是合法的手機(jī)號(hào)碼
范例2:
運(yùn)用正則表達(dá)式的寫法
import re
phone_number = input('please input your phone number : ')
if re.match('^(13|14|15|18)[0-9]{9}$',phone_number):
print('是合法的手機(jī)號(hào)碼')
else:
print('不是合法的手機(jī)號(hào)碼')
執(zhí)行結(jié)果:
please input your phone number : 139
不是合法的手機(jī)號(hào)碼
please input your phone number : 18123456789
是合法的手機(jī)號(hào)碼
1.1 正則表達(dá)式在線工具
1.2 正則表達(dá)式使用規(guī)范表
2. RE模塊
2.1 findall(重要)
想找到所有結(jié)果
范例:
import re
ret = re.findall('a', 'eva egon yuan') # 返回所有滿足匹配條件的結(jié)果,放在列表里
print(ret)
ret = re.findall('[a-z]+', 'eva egon yuan') # 返回所有滿足匹配條件的結(jié)果,放在列表里
print(ret)
執(zhí)行結(jié)果:
['a', 'a']
['eva', 'egon', 'yuan']
2.2 search(重要)
想只找到一個(gè)結(jié)果
import re
ret = re.search('a', 'eva egon yuan')
if ret:
print(ret.group())
ret = re.search('j', 'eva egon yuan')
if ret:
print(ret.group())
#從前往后腌闯,找到一個(gè)就返回,返回的變量需要調(diào)用group才能拿到結(jié)果
#如果沒有找到绳瘟,那么返回None,調(diào)用group會(huì)報(bào)錯(cuò)
執(zhí)行結(jié)果:
a
2.3 match(重要)
想在開頭就匹配上
import re
ret = re.match('e', 'eva egon yuan')
if ret:
print(ret.group())
ret = re.match('ev', 'eva egon yuan')
if ret:
print(ret.group())
ret = re.match('[a-z]+', 'eva egon yuan')
if ret:
print(ret.group())
# match是從頭開始匹配姿骏,如果正則規(guī)則從頭開始可以匹配上糖声,就返回一個(gè)變量。
# 匹配的內(nèi)容需要用group才能顯示
# 如果沒匹配上分瘦,就返回None蘸泻,調(diào)用group會(huì)報(bào)錯(cuò)
執(zhí)行結(jié)果:
e
ev
eva
2.4 split
當(dāng)要分割一個(gè)字符串的時(shí)候
ret = re.split('[ab]', 'abcd')
# # 先按'a'分割得到''和'bcd',再對(duì)''和'bcd'分別按'b'分割
print(ret)
執(zhí)行結(jié)果:
['', '', 'cd']
2.5 sub(常用)
當(dāng)要替換一個(gè)字符串的時(shí)候
import re
ret = re.sub('\d', 'H', 'eva3egon4yuan4',1)
#將數(shù)字替換成'H',參數(shù)1表示只替換1個(gè)
print(ret)
ret = re.sub('\d', 'H', 'eva3egon4yuan4')
#將數(shù)字替換成'H'嘲玫,無參數(shù)1表示替換所有
print(ret)
執(zhí)行結(jié)果:
evaHegon4yuan4
evaHegonHyuanH
2.6 subn
import re
ret = re.subn('\d', 'H', 'eva3egon4yuan49alex8')
#將數(shù)字替換成'H'悦施,返回元組(替換的結(jié)果,替換了多少次)
print(ret)
執(zhí)行結(jié)果:
('evaHegonHyuanHHalexH', 5)
2.7 compile
當(dāng)正則反復(fù)使用且正則較長的時(shí)候
import re
obj = re.compile('\d{3}')
#將正則表達(dá)式編譯成為一個(gè) 正則表達(dá)式對(duì)象,規(guī)則要匹配的是3個(gè)數(shù)字
ret = obj.search('abc123eeee') #正則表達(dá)式對(duì)象調(diào)用search去团,參數(shù)為待匹配的字符串
print(ret.group())
ret = obj.search('abcashgjgsdghkash456eeee3wr2') #正則表達(dá)式對(duì)象調(diào)用search抡诞,參數(shù)為待匹配的字符串
print(ret.group())
執(zhí)行結(jié)果:
123
456
2.8 finditer
要找的東西特別多的時(shí)候
import re
ret = re.finditer('\d', 'ds3sy4784a') #finditer返回一個(gè)存放匹配結(jié)果的迭代器
print(ret) # <callable_iterator object at 0x10195f940>
print(next(ret).group()) #查看第一個(gè)結(jié)果
print(next(ret).group()) #查看第二個(gè)結(jié)果
print(next(ret).group())
print([i.group() for i in ret]) #查看剩余的左右結(jié)果
ret = re.finditer('\d', 'ds3sy4784a')
for i in ret:
print(i.group())
執(zhí)行結(jié)果:
<callable_iterator object at 0x000001A7D966F278>
3
4
7
['8', '4']
3
4
7
8
4
2.9 其他注意事項(xiàng):優(yōu)先級(jí)查詢
- search的分組優(yōu)先
import re
ret = re.search('^[1-9](\d{14})(\d{2}[0-9x])?$','110105199912122277')
print(ret.group())
print(ret.group(1)) # 取第一個(gè)分組內(nèi)的內(nèi)容
print(ret.group(2)) # 取第二個(gè)分組內(nèi)的內(nèi)容
執(zhí)行結(jié)果:
110105199912122277
10105199912122
277
- findall取消分組優(yōu)先
import re
ret = re.findall('www.(baidu|oldboy).com', 'www.oldboy.com')
print(ret) # ['oldboy'] 這是因?yàn)閒indall會(huì)優(yōu)先把匹配結(jié)果組里內(nèi)容返回,如果想要匹配結(jié)果,取消權(quán)限即可
ret = re.findall('www.(?:baidu|oldboy).com', 'www.oldboy.com') # 使用?:用來取消分組優(yōu)先
print(ret) # ['www.oldboy.com']
執(zhí)行結(jié)果:
['oldboy']
['www.oldboy.com']
- split的優(yōu)先級(jí)查詢
import re
ret=re.split("\d+","eva3egon4yuan")
print(ret) #結(jié)果 : ['eva', 'egon', 'yuan']
ret=re.split("(\d+)","eva3egon4yuan")
print(ret) #結(jié)果 : ['eva', '3', 'egon', '4', 'yuan']
#在匹配部分加上()之后所切出的結(jié)果是不同的,
#沒有()的沒有保留所匹配的項(xiàng)渗勘,但是有()的卻能夠保留了匹配的項(xiàng)沐绒,
#這個(gè)在某些需要保留匹配部分的使用過程是非常重要的俩莽。
執(zhí)行結(jié)果:
['eva', 'egon', 'yuan']
['eva', '3', 'egon', '4', 'yuan']
2.10 爬蟲例子1
import re
from urllib.request import urlopen
def getPage(url):
response = urlopen(url)
return response.read().decode('utf-8')
def parsePage(s):
com = re.compile(
'<div class="item">.*?<div class="pic">.*?<em .*?>(?P<id>\d+).*?<span class="title">(?P<title>.*?)</span>'
'.*?<span class="rating_num" .*?>(?P<rating_num>.*?)</span>.*?<span>(?P<comment_num>.*?)評(píng)價(jià)</span>', re.S)
ret = com.finditer(s)
for i in ret:
yield {
"id": i.group("id"),
"title": i.group("title"),
"rating_num": i.group("rating_num"),
"comment_num": i.group("comment_num"),
}
def main(num):
url = 'https://movie.douban.com/top250?start=%s&filter=' % num
response_html = getPage(url)
ret = parsePage(response_html)
print(ret)
f = open("move_info7", "a", encoding="utf8")
for obj in ret:
print(obj)
data = str(obj)
f.write(data + "\n")
f.close()
count = 0
for i in range(10): # 10頁
main(count)
count += 25
# url從網(wǎng)頁上把代碼搞下來
# bytes decode ——> utf-8 網(wǎng)頁內(nèi)容就是我的待匹配字符串
# ret = re.findall(正則旺坠,帶匹配的字符串) #ret是所有匹配到的內(nèi)容組成的列表
執(zhí)行結(jié)果:
生成一個(gè)move_info7的文件
{'id': '1', 'title': '肖申克的救贖', 'rating_num': '9.6', 'comment_num': '1283490人'}
{'id': '2', 'title': '霸王別姬', 'rating_num': '9.6', 'comment_num': '947284人'}
{'id': '3', 'title': '這個(gè)殺手不太冷', 'rating_num': '9.4', 'comment_num': '1177716人'}
{'id': '4', 'title': '阿甘正傳', 'rating_num': '9.4', 'comment_num': '1011706人'}
{'id': '5', 'title': '美麗人生', 'rating_num': '9.5', 'comment_num': '592034人'}
...
{'id': '246', 'title': '荒島余生', 'rating_num': '8.5', 'comment_num': '163691人'}
{'id': '247', 'title': '勇士', 'rating_num': '8.9', 'comment_num': '100117人'}
{'id': '248', 'title': '槍火', 'rating_num': '8.7', 'comment_num': '119054人'}
{'id': '249', 'title': '遷徙的鳥', 'rating_num': '9.1', 'comment_num': '57898人'}
{'id': '250', 'title': '攻殼機(jī)動(dòng)隊(duì)', 'rating_num': '8.9', 'comment_num': '72306人'}
2.11 爬蟲簡(jiǎn)易例子2(不生成文件)
import re
from urllib.request import urlopen
def getPage(url):
response = urlopen(url)
return response.read().decode('utf-8')
def parsePage(s):
ret = re.findall(
'<div class="item">.*?<div class="pic">.*?<em .*?>(?P<id>\d+).*?<span class="title">(?P<title>.*?)</span>'
'.*?<span class="rating_num" .*?>(?P<rating_num>.*?)</span>.*?<span>(?P<comment_num>.*?)評(píng)價(jià)</span>',s,re.S)
return ret
def main(num):
url = 'https://movie.douban.com/top250?start=%s&filter=' % num
response_html = getPage(url)
ret = parsePage(response_html)
print(ret)
count = 0
for i in range(10): # 10頁
main(count)
count += 25
執(zhí)行結(jié)果:
[('1', '肖申克的救贖', '9.6', '1283490人'), ('2', '霸王別姬', '9.6', '947284人'), ('3', '這個(gè)殺手不太冷', '9.4', '1177716人'), ('4', '阿甘正傳', '9.4', '1011706人'), ('5', '美麗人生', '9.5', '592034人'), ('6', '泰坦尼克號(hào)', '9.3', '947372人'), ('7', '千與千尋', '9.3', '940412人'), ('8', '辛德勒的名單', '9.5', '530119人'), ('9', '盜夢(mèng)空間', '9.3', '1023257人'), ('10', '機(jī)器人總動(dòng)員', '9.3', '680657人'), ('11', '忠犬八公的故事', '9.3', '668630人'), ('12', '三傻大鬧寶萊塢', '9.2', '917833人'), ('13', '海上鋼琴師', '9.2', '763056人'), ('14', '放牛班的春天', '9.3', '633150人'), ('15', '大話西游之大圣娶親', '9.2', '704012人'), ('16', '楚門的世界', '9.2', '687852人'), ('17', '龍貓', '9.2', '620786人'), ('18', '星際穿越', '9.2', '698752人'), ('19', '教父', '9.2', '463326人'), ('20', '熔爐', '9.3', '401050人'), ('21', '無間道', '9.1', '578870人'), ('22', '當(dāng)幸福來敲門', '9.0', '742183人'), ('23', '瘋狂動(dòng)物城', '9.2', '776574人'), ('24', '觸不可及', '9.2', '489976人'), ('25', '怦然心動(dòng)', '9.0', '806397人')]
...
2.12 flags
flags有很多可選值:
re.I(IGNORECASE)忽略大小寫,括號(hào)內(nèi)是完整的寫法
re.M(MULTILINE)多行模式扮超,改變^和$的行為
re.S(DOTALL)點(diǎn)可以匹配任意字符取刃,包括換行符
re.L(LOCALE)做本地化識(shí)別的匹配,表示特殊字符集 \w, \W, \b, \B, \s, \S 依賴于當(dāng)前環(huán)境出刷,不推薦使用
re.U(UNICODE) 使用\w \W \s \S \d \D使用取決于unicode定義的字符屬性璧疗。在python3中默認(rèn)使用該flag
re.X(VERBOSE)冗長模式,該模式下pattern字符串可以是多行的馁龟,忽略空白字符崩侠,并可以添加注釋
使用方法:
import re
re.findall('\d','awir17948jsdc',re.S)
# 返回值:列表 列表中是所有匹配到的項(xiàng)
3. 練習(xí)
3.1 匹配標(biāo)簽
import re
ret = re.search("<(?P<tag_name>\w+)>\w+</(?P=tag_name)>","<h1>hello</h1>")
#還可以在分組中利用?<name>的形式給分組起名字
#獲取的匹配結(jié)果可以直接用group('名字')拿到對(duì)應(yīng)的值
print(ret.group('tag_name')) #結(jié)果 :h1
print(ret.group()) #結(jié)果 :<h1>hello</h1>
ret = re.search(r"<(\w+)>\w+</\1>","<h1>hello</h1>")
#如果不給組起名字,也可以用\序號(hào)來找到對(duì)應(yīng)的組坷檩,表示要找的內(nèi)容和前面的組內(nèi)容一致
#獲取的匹配結(jié)果可以直接用group(序號(hào))拿到對(duì)應(yīng)的值
print(ret.group(1))
print(ret.group()) #結(jié)果 :<h1>hello</h1>
執(zhí)行結(jié)果:
h1
<h1>hello</h1>
h1
<h1>hello</h1>
3.2 匹配整數(shù)
import re
ret=re.findall(r"\d+\.\d+|(\d+)","1-2*(60+(-40.35/5)-(-4*3))")
print(ret) #['1', '2', '60', '40', '35', '5', '4', '3']
ret.remove('')
print(ret)
ret=re.findall(r"-?\d+\.\d*|(-?\d+)","1-2*(60+(-40.35/5)-(-4*3))")
print(ret) #['1', '-2', '60', '', '5', '-4', '3']
ret.remove("")
print(ret) #['1', '-2', '60', '5', '-4', '3']
執(zhí)行結(jié)果:
['1', '2', '60', '', '5', '4', '3']
['1', '2', '60', '5', '4', '3']
['1', '-2', '60', '', '5', '-4', '3']
['1', '-2', '60', '5', '-4', '3']
3.3 數(shù)字匹配
1却音、 匹配一段文本中的每行的郵箱
http://blog.csdn.net/make164492212/article/details/51656638
2、 匹配一段文本中的每行的時(shí)間字符串矢炼,比如:‘1990-07-12’系瓢;
分別取出1年的12個(gè)月(^(0?[1-9]|1[0-2])$)、
一個(gè)月的31天:^((0?[1-9])|((1|2)[0-9])|30|31)$
3句灌、 匹配qq號(hào)夷陋。(騰訊QQ號(hào)從10000開始) [1,9][0,9]{4,}
4、 匹配一個(gè)浮點(diǎn)數(shù)。 ^(-?\d+)(\.\d+)?$ 或者 -?\d+\.?\d*
5骗绕、 匹配漢字藐窄。 ^[\u4e00-\u9fa5]{0,}$
6、 匹配出所有整數(shù)
4. 復(fù)習(xí)正則與re模塊
# 正則表達(dá)式
# 字符組 [字符]
# 元字符
# \w \d \s
# \W \D \S
# . 除了換行符以外的任意字符
# \n \t
# \b
# ^ $ 匹配字符串的開始和結(jié)束
# () 分組 是對(duì)多個(gè)字符組整體量詞約束的時(shí)候用的
#re模塊:分組是有優(yōu)先的
# findall
# split
# | 從左到右匹配酬土,只要匹配上就不繼續(xù)匹配了枷邪。所以應(yīng)該把長的放前面
# [^] 除了字符組內(nèi)的其他都匹配
# 量詞
# * 0~
# + 1~
# ? 0~1
# {n} n
# {n,} n~
# {n,m} n~m
# 轉(zhuǎn)義的問題
# import re
# re.findall(r'\\s',r'\s')
# 惰性匹配
# 量詞后面加問號(hào)
# .*?abc 一直取遇到abc就停
# re模塊
# import re
# re.findall('\d','awir17948jsdc',re.S)
# 返回值:列表 列表中是所有匹配到的項(xiàng)
# ret = search('\d(\w)+','awir17948jsdc')
# ret = search('\d(?P<name>\w)+','awir17948jsdc')
# 找整個(gè)字符串诺凡,遇到匹配上的就返回东揣,遇不到就None
# 如果有返回值ret.group()就可以取到值
# 取分組中的內(nèi)容 : ret.group(1) / ret.group('name')
# match
# 從頭開始匹配,匹配上了就返回腹泌,匹配不上就是None
# 如果匹配上了 .group取值
# 分割 split
# 替換 sub 和 subn
# finditer 返回迭代器
# compile 編譯 :正則表達(dá)式很長且要多次使用