Python3 爬蟲學(xué)習(xí)筆記03-正則表達(dá)式(re)

1.了解正則表達(dá)式

正則表達(dá)式是對(duì)字符串操作的一種邏輯公式,就是用事先定義好的一些特定字符始花、及這些特定字符的組合,組成一個(gè)“規(guī)則字符串”,這個(gè)“規(guī)則字符串”用來(lái)表達(dá)對(duì)字符串的一種過(guò)濾邏輯扰柠。
正則表達(dá)式是用來(lái)匹配字符串非常強(qiáng)大的工具,在其他編程語(yǔ)言中同樣有正則表達(dá)式的概念疼约,Python同樣不例外卤档,利用了正則表達(dá)式,我們想要從返回的頁(yè)面內(nèi)容提取出我們想要的內(nèi)容就易如反掌了程剥。

正則表達(dá)式的大致匹配過(guò)程是:

  1. 依次拿出表達(dá)式和文本中的字符比較劝枣,
  2. 如果每一個(gè)字符都能匹配,則匹配成功织鲸;一旦有匹配不成功的字符則匹配失敗舔腾。
  3. 如果表達(dá)式中有量詞或邊界,這個(gè)過(guò)程會(huì)稍微有一些不同搂擦。

2.正則表達(dá)式的語(yǔ)法規(guī)則

下面是Python中正則表達(dá)式的一些匹配規(guī)則稳诚,圖片資料來(lái)自CSDN


正則表達(dá)式的語(yǔ)法規(guī)則

3.正則表達(dá)式相關(guān)注解

3.1 數(shù)量詞的貪婪模式與非貪婪模式

正則表達(dá)式通常用于在文本中查找匹配的字符串。Python里數(shù)量詞默認(rèn)是貪婪的(在少數(shù)語(yǔ)言里也可能是默認(rèn)非貪婪)瀑踢,總是嘗試匹配盡可能多的字符扳还;非貪婪的則相反,總是嘗試匹配盡可能少的字符橱夭。

例如:正則表達(dá)式”ab”如果用于查找”abbbc”氨距,將找到”abbb”。而如果使用非貪婪的數(shù)量詞”ab?”棘劣,將找到”a”俏让。

注:我們一般使用非貪婪模式來(lái)提取。

3.2 反斜杠問(wèn)題

與大多數(shù)編程語(yǔ)言相同,正則表達(dá)式里使用”\”作為轉(zhuǎn)義字符舆驶,這就可能造成反斜杠困擾橱健。假如你需要匹配文本中的字符”\”,那么使用編程語(yǔ)言表示的正則表達(dá)式里將需要4個(gè)反斜杠”\\”:前兩個(gè)和后兩個(gè)分別用于在編程語(yǔ)言里轉(zhuǎn)義成反斜杠沙廉,轉(zhuǎn)換成兩個(gè)反斜杠后再在正則表達(dá)式里轉(zhuǎn)義成一個(gè)反斜杠拘荡。

Python里的原生字符串很好地解決了這個(gè)問(wèn)題,這個(gè)例子中的正則表達(dá)式可以使用r”\”表示撬陵。同樣珊皿,匹配一個(gè)數(shù)字的”\d”可以寫成r”\d”。有了原生字符串巨税,媽媽也不用擔(dān)心是不是漏寫了反斜杠蟋定,寫出來(lái)的表達(dá)式也更直觀勒。

4. Python Re模塊

Python 自帶了re模塊草添,它提供了對(duì)正則表達(dá)式的支持驶兜。主要用到的方法列舉如下

#返回pattern對(duì)象
re.compile(string[,flag])  
#以下為匹配所用函數(shù)
re.match(pattern, string[, flags])
re.search(pattern, string[, flags])
re.split(pattern, string[, maxsplit])
re.findall(pattern, string[, flags])
re.finditer(pattern, string[, flags])
re.sub(pattern, repl, string[, count])
re.subn(pattern, repl, string[, count])

在介紹這幾個(gè)方法之前,我們先來(lái)介紹一下pattern的概念远寸,pattern可以理解為一個(gè)匹配模式抄淑,那么我們?cè)趺传@得這個(gè)匹配模式呢?很簡(jiǎn)單驰后,我們需要利用re.compile方法就可以肆资。例如

pattern = re.compile(r'hello')

在參數(shù)中我們傳入了原生字符串對(duì)象,通過(guò)compile方法編譯生成一個(gè)pattern對(duì)象灶芝,然后我們利用這個(gè)對(duì)象來(lái)進(jìn)行進(jìn)一步的匹配郑原。

另外大家可能注意到了另一個(gè)參數(shù) flags,在這里解釋一下這個(gè)參數(shù)的含義:
參數(shù)flag是匹配模式夜涕,取值可以使用按位或運(yùn)算符’|’表示同時(shí)生效犯犁,比如re.I | re.M。

可選值有:

  • re.I(全拼:IGNORECASE): 忽略大小寫(括號(hào)內(nèi)是完整寫法女器,下同)
  • re.M(全拼:MULTILINE): 多行模式栖秕,改變'^'和'$'的行為(參見(jiàn)上圖)
  • re.S(全拼:DOTALL): 點(diǎn)任意匹配模式,改變'.'的行為
  • re.L(全拼:LOCALE): 使預(yù)定字符類 \w \W \b \B \s \S 取決于當(dāng)前區(qū)域設(shè)定
  • re.U(全拼:UNICODE): 使預(yù)定字符類 \w \W \b \B \s \S \d \D 取決于unicode定義的字符屬性
  • re.X(全拼:VERBOSE): 詳細(xì)模式晓避。這個(gè)模式下正則表達(dá)式可以是多行簇捍,忽略空白字符,并可以加入注釋俏拱。

在剛才所說(shuō)的另外幾個(gè)方法例如 re.match 里我們就需要用到這個(gè)pattern了暑塑,下面我們一一介紹。

注:以下七個(gè)方法中的flags同樣是代表匹配模式的意思锅必,如果在pattern生成時(shí)已經(jīng)指明了flags事格,那么在下面的方法中就不需要傳入這個(gè)參數(shù)了惕艳。

4.1 re.match(pattern, string[, flags])

這個(gè)方法將會(huì)從string(我們要匹配的字符串)的開頭開始,嘗試匹配pattern驹愚,一直向后匹配远搪,如果遇到無(wú)法匹配的字符,立即返回None逢捺,如果匹配未結(jié)束已經(jīng)到達(dá)string的末尾谁鳍,也會(huì)返回None。兩個(gè)結(jié)果均表示匹配失敗劫瞳,否則匹配pattern成功倘潜,同時(shí)匹配終止,不再對(duì)string向后匹配志于。下面我們通過(guò)一個(gè)例子理解一下

# -*- coding: utf-8 -*-
import re #導(dǎo)入re模塊
 
# 將正則表達(dá)式編譯成Pattern對(duì)象涮因,注意hello前面的r的意思是“原生字符串”
pattern = re.compile(r'hello')
 
# 使用re.match匹配文本,獲得匹配結(jié)果伺绽,無(wú)法匹配時(shí)將返回None
result1 = re.match(pattern,'hello')
result2 = re.match(pattern,'helloo CQC!')
result3 = re.match(pattern,'helo CQC!')
result4 = re.match(pattern,'hello CQC!')
 
#如果1匹配成功
if result1:
    # 使用Match獲得分組信息
    print (result1.group())
else:
    print ('1匹配失斞荨!')
 
 
#如果2匹配成功
if result2:
    # 使用Match獲得分組信息
    print (result2.group())
else:
    print ('2匹配失斈斡Α澜掩!')
 
 
#如果3匹配成功
if result3:
    # 使用Match獲得分組信息
    print (result3.group())
else:
    print ('3匹配失敗钥组!')
 
#如果4匹配成功
if result4:
    # 使用Match獲得分組信息
    print (result4.group())
else:
    print ('4匹配失斒湎酢今瀑!')

運(yùn)行結(jié)果:

hello
hello
3匹配失敵堂巍!
hello

匹配分析

  1. 第一個(gè)匹配橘荠,pattern正則表達(dá)式為’hello’屿附,我們匹配的目標(biāo)字符串string也為hello,從頭至尾完全匹配哥童,匹配成功挺份。
  2. 第二個(gè)匹配,string為helloo CQC贮懈,從string頭開始匹配pattern完全可以匹配匀泊,pattern匹配結(jié)束,同時(shí)匹配終止朵你,后面的o CQC不再匹配各聘,返回匹配成功的信息。
  3. 第三個(gè)匹配抡医,string為helo CQC躲因,從string頭開始匹配pattern,發(fā)現(xiàn)到 ‘o’ 時(shí)無(wú)法完成匹配,匹配終止大脉,返回None
  4. 第四個(gè)匹配搞监,同第二個(gè)匹配原理,即使遇到了空格符也不會(huì)受影響镰矿。

我們還看到最后打印出了result.group()琐驴,這個(gè)是什么意思呢?下面我們說(shuō)一下關(guān)于match對(duì)象的的屬性和方法
Match對(duì)象是一次匹配的結(jié)果衡怀,包含了很多關(guān)于此次匹配的信息棍矛,可以使用Match提供的可讀屬性或方法來(lái)獲取這些信息。

屬性:

string: 匹配時(shí)使用的文本抛杨。
re: 匹配時(shí)使用的Pattern對(duì)象够委。
pos: 文本中正則表達(dá)式開始搜索的索引。值與Pattern.match()Pattern.seach()方法的同名參數(shù)相同怖现。
endpos: 文本中正則表達(dá)式結(jié)束搜索的索引茁帽。值與Pattern.match()Pattern.seach()方法的同名參數(shù)相同。
lastindex: 最后一個(gè)被捕獲的分組在文本中的索引屈嗤。如果沒(méi)有被捕獲的分組潘拨,將為None。
lastgroup: 最后一個(gè)被捕獲的分組的別名饶号。如果這個(gè)分組沒(méi)有別名或者沒(méi)有被捕獲的分組铁追,將為None。

方法:

group([group1, …]):獲得一個(gè)或多個(gè)分組截獲的字符串茫船;指定多個(gè)參數(shù)時(shí)將以元組形式返回琅束。group1可以使用編號(hào)也可以使用別名;編號(hào)0代表整個(gè)匹配的子串算谈;不填寫參數(shù)時(shí)涩禀,返回group(0);沒(méi)有截獲字符串的組返回None然眼;截獲了多次的組返回最后一次截獲的子串艾船。
groups([default]):以元組形式返回全部分組截獲的字符串。相當(dāng)于調(diào)用group(1,2,…last)高每。default表示沒(méi)有截獲字符串的組以這個(gè)值替代屿岂,默認(rèn)為None。
groupdict([default]):返回以有別名的組的別名為鍵鲸匿、以該組截獲的子串為值的字典爷怀,沒(méi)有別名的組不包含在內(nèi)。default含義同上晒骇。
start([group]):返回指定的組截獲的子串在string中的起始索引(子串第一個(gè)字符的索引)霉撵。group默認(rèn)值為0磺浙。
end([group]):返回指定的組截獲的子串在string中的結(jié)束索引(子串最后一個(gè)字符的索引+1)。group默認(rèn)值為0徒坡。
span([group]):返回(start(group), end(group))撕氧。
expand(template):將匹配到的分組代入template中然后返回。template中可以使用\id或\g喇完、\g引用分組伦泥,但不能使用編號(hào)0。\id與\g是等價(jià)的锦溪;但\10將被認(rèn)為是第10個(gè)分組不脯,如果你想表達(dá)\1之后是字符’0’,只能使用\g0刻诊。

下面我們用一個(gè)例子來(lái)體會(huì)一下

# -*- coding: utf-8 -*-
#一個(gè)簡(jiǎn)單的match實(shí)例
 
import re
# 匹配如下內(nèi)容:?jiǎn)卧~+空格+單詞+任意字符
m = re.match(r'(\w+) (\w+)(?P<sign>.*)', 'hello world!')
 
print ("m.string:", m.string)
print ("m.re:", m.re)
print ("m.pos:", m.pos)
print ("m.endpos:", m.endpos)
print ("m.lastindex:", m.lastindex)
print ("m.lastgroup:", m.lastgroup)
print ("m.group():", m.group())
print ("m.group(1,2):", m.group(1, 2))
print ("m.groups():", m.groups())
print ("m.groupdict():", m.groupdict())
print ("m.start(2):", m.start(2))
print ("m.end(2):", m.end(2))
print ("m.span(2):", m.span(2))
print (r"m.expand(r'\g \g\g'):", m.expand(r'\2 \1\3'))
### output ###
# m.string: hello world!
# m.re: 
# m.pos: 0
# m.endpos: 12
# m.lastindex: 3
# m.lastgroup: sign
# m.group(1,2): ('hello', 'world')
# m.groups(): ('hello', 'world', '!')
# m.groupdict(): {'sign': '!'}
# m.start(2): 6
# m.end(2): 11
# m.span(2): (6, 11)
# m.expand(r'\2 \1\3'): world hello!

4.2 re.search(pattern, string[, flags])

search方法與match方法極其類似防楷,區(qū)別在于match()函數(shù)只檢測(cè)re是不是在string的開始位置匹配,search()會(huì)掃描整個(gè)string查找匹配则涯,match()只有在0位置匹配成功的話才有返回复局,如果不是開始位置匹配成功的話,match()就返回None粟判。同樣亿昏,search方法的返回對(duì)象同樣match()返回對(duì)象的方法和屬性。我們用一個(gè)例子感受一下

#導(dǎo)入re模塊
import re
 
# 將正則表達(dá)式編譯成Pattern對(duì)象
pattern = re.compile(r'world')
# 使用search()查找匹配的子串档礁,不存在能匹配的子串時(shí)將返回None
# 這個(gè)例子中使用match()無(wú)法成功匹配
match = re.search(pattern,'hello world!')
if match:
    # 使用Match獲得分組信息
    print (match.group())
### 輸出 ###
# world

4.3 re.split(pattern, string[, maxsplit])

按照能夠匹配的子串將string分割后返回列表角钩。maxsplit用于指定最大分割次數(shù),不指定將全部分割呻澜。我們通過(guò)下面的例子感受一下递礼。

import re
 
pattern = re.compile(r'\d+')
print (re.split(pattern,'one1two2three3four4'))
### 輸出 ###
# ['one', 'two', 'three', 'four', '']

4.4 re.findall(pattern, string[, flags])

搜索string,以列表形式返回全部能匹配的子串易迹。我們通過(guò)這個(gè)例子來(lái)感受一下

import re
 
pattern = re.compile(r'\d+')
print (re.findall(pattern,'one1two2three3four4'))
### 輸出 ###
# ['1', '2', '3', '4']

4.5 re.finditer(pattern, string[, flags])

搜索string宰衙,返回一個(gè)順序訪問(wèn)每一個(gè)匹配結(jié)果(Match對(duì)象)的迭代器平道。我們通過(guò)下面的例子來(lái)感受一下

import re
 
pattern = re.compile(r'\d+')
for m in re.finditer(pattern,'one1two2three3four4'):
    print (m.group())
### 輸出 ###
# 1 2 3 4

4.6 re.sub(pattern, repl, string[, count])

使用repl替換string中每一個(gè)匹配的子串后返回替換后的字符串睹欲。
當(dāng)repl是一個(gè)字符串時(shí),可以使用\id或\g一屋、\g引用分組窘疮,但不能使用編號(hào)0。
當(dāng)repl是一個(gè)方法時(shí)冀墨,這個(gè)方法應(yīng)當(dāng)只接受一個(gè)參數(shù)(Match對(duì)象)闸衫,并返回一個(gè)字符串用于替換(返回的字符串中不能再引用分組)。
count用于指定最多替換次數(shù)诽嘉,不指定時(shí)全部替換蔚出。

import re
 
pattern = re.compile(r'(\w+) (\w+)')
s = 'i say, hello world!'
 
print (re.sub(pattern,r'\2 \1', s))
 
def func(m):
    return m.group(1).title() + ' ' + m.group(2).title()
 
print (re.sub(pattern,func, s))
### output ###
# say i, world hello!
# I Say, Hello World!

4.7 re.subn(pattern, repl, string[, count])

返回 (sub(repl, string[, count]), 替換次數(shù))弟翘。

import re
 
pattern = re.compile(r'(\w+) (\w+)')
s = 'i say, hello world!'
 
print (re.subn(pattern,r'\2 \1', s))
 
def func(m):
    return m.group(1).title() + ' ' + m.group(2).title()
 
print (re.subn(pattern,func, s))
### output ###
# ('say i, world hello!', 2)
# ('I Say, Hello World!', 2)

5. Python Re模塊的另一種使用方式

在上面我們介紹了7個(gè)工具方法,例如match骄酗,search等等稀余,不過(guò)調(diào)用方式都是 re.match,re.search的方式趋翻,其實(shí)還有另外一種調(diào)用方式睛琳,可以通過(guò)pattern.match,pattern.search調(diào)用踏烙,這樣調(diào)用便不用將pattern作為第一個(gè)參數(shù)傳入了师骗,大家想怎樣調(diào)用皆可。

函數(shù)API列表

 match(string[, pos[, endpos]]) | re.match(pattern, string[, flags])
 search(string[, pos[, endpos]]) | re.search(pattern, string[, flags])
 split(string[, maxsplit]) | re.split(pattern, string[, maxsplit])
 findall(string[, pos[, endpos]]) | re.findall(pattern, string[, flags])
 finditer(string[, pos[, endpos]]) | re.finditer(pattern, string[, flags])
 sub(repl, string[, count]) | re.sub(pattern, repl, string[, count])
 subn(repl, string[, count]) |re.sub(pattern, repl, string[, count])

具體的調(diào)用方法不必詳說(shuō)了讨惩,原理都類似辟癌,只是參數(shù)的變化不同。

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末荐捻,一起剝皮案震驚了整個(gè)濱河市愿待,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌靴患,老刑警劉巖仍侥,帶你破解...
    沈念sama閱讀 219,110評(píng)論 6 508
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場(chǎng)離奇詭異鸳君,居然都是意外死亡农渊,警方通過(guò)查閱死者的電腦和手機(jī),發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 93,443評(píng)論 3 395
  • 文/潘曉璐 我一進(jìn)店門或颊,熙熙樓的掌柜王于貴愁眉苦臉地迎上來(lái)砸紊,“玉大人,你說(shuō)我怎么就攤上這事囱挑∽硗纾” “怎么了?”我有些...
    開封第一講書人閱讀 165,474評(píng)論 0 356
  • 文/不壞的土叔 我叫張陵平挑,是天一觀的道長(zhǎng)游添。 經(jīng)常有香客問(wèn)我,道長(zhǎng)通熄,這世上最難降的妖魔是什么唆涝? 我笑而不...
    開封第一講書人閱讀 58,881評(píng)論 1 295
  • 正文 為了忘掉前任,我火速辦了婚禮唇辨,結(jié)果婚禮上廊酣,老公的妹妹穿的比我還像新娘。我一直安慰自己赏枚,他們只是感情好亡驰,可當(dāng)我...
    茶點(diǎn)故事閱讀 67,902評(píng)論 6 392
  • 文/花漫 我一把揭開白布晓猛。 她就那樣靜靜地躺著,像睡著了一般凡辱。 火紅的嫁衣襯著肌膚如雪鞍帝。 梳的紋絲不亂的頭發(fā)上,一...
    開封第一講書人閱讀 51,698評(píng)論 1 305
  • 那天煞茫,我揣著相機(jī)與錄音帕涌,去河邊找鬼。 笑死续徽,一個(gè)胖子當(dāng)著我的面吹牛蚓曼,可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播钦扭,決...
    沈念sama閱讀 40,418評(píng)論 3 419
  • 文/蒼蘭香墨 我猛地睜開眼纫版,長(zhǎng)吁一口氣:“原來(lái)是場(chǎng)噩夢(mèng)啊……” “哼!你這毒婦竟也來(lái)了客情?” 一聲冷哼從身側(cè)響起其弊,我...
    開封第一講書人閱讀 39,332評(píng)論 0 276
  • 序言:老撾萬(wàn)榮一對(duì)情侶失蹤,失蹤者是張志新(化名)和其女友劉穎膀斋,沒(méi)想到半個(gè)月后梭伐,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 45,796評(píng)論 1 316
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡仰担,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 37,968評(píng)論 3 337
  • 正文 我和宋清朗相戀三年糊识,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片摔蓝。...
    茶點(diǎn)故事閱讀 40,110評(píng)論 1 351
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡赂苗,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出贮尉,到底是詐尸還是另有隱情拌滋,我是刑警寧澤,帶...
    沈念sama閱讀 35,792評(píng)論 5 346
  • 正文 年R本政府宣布猜谚,位于F島的核電站败砂,受9級(jí)特大地震影響,放射性物質(zhì)發(fā)生泄漏龄毡。R本人自食惡果不足惜吠卷,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 41,455評(píng)論 3 331
  • 文/蒙蒙 一锡垄、第九天 我趴在偏房一處隱蔽的房頂上張望沦零。 院中可真熱鬧,春花似錦货岭、人聲如沸路操。這莊子的主人今日做“春日...
    開封第一講書人閱讀 32,003評(píng)論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽(yáng)屯仗。三九已至搞坝,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間魁袜,已是汗流浹背桩撮。 一陣腳步聲響...
    開封第一講書人閱讀 33,130評(píng)論 1 272
  • 我被黑心中介騙來(lái)泰國(guó)打工, 沒(méi)想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留峰弹,地道東北人店量。 一個(gè)月前我還...
    沈念sama閱讀 48,348評(píng)論 3 373
  • 正文 我出身青樓,卻偏偏與公主長(zhǎng)得像鞠呈,于是被迫代替她去往敵國(guó)和親融师。 傳聞我的和親對(duì)象是個(gè)殘疾皇子,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 45,047評(píng)論 2 355