Python爬蟲(十)_正則表達式

本篇將介紹python正則表達式戳玫,更多內(nèi)容請參考:【python正則表達式】

什么是正則表達式

正則表達式互订,又稱規(guī)則表達式驳糯,通常被用來檢索吼鳞、替換那些符合某個模式(規(guī)則)的文本。
正則表達式是對字符串操作的一種邏輯公式蔼两,就是用事先定義好的一些特定字符虑粥、及這些特定字符的組合,組成一個“規(guī)則字符串”宪哩,這個“規(guī)則字符串”用來表達對字符串的一些過濾邏輯。
給定一個正則表達式和另一個字符串第晰,我們可以達到如下的目的:

  • 給定的字符串是否符合正則表達式的過濾邏輯(“匹配”)
  • 通過正則表達式锁孟,從文本字符串中獲取到我們想要的特定部分(“過濾”)


    正則表達式過程

正則表達式匹配規(guī)則

正則表達式匹配規(guī)則

Python的re模塊

在python中,我們可以使用內(nèi)置的re模塊來使用正則表達式茁瘦。
有一點需要特別注意的是品抽,正則表達式使用對特殊字符進行轉(zhuǎn)義,所以如果我們要使用原始字符串甜熔,只需要一個r前綴圆恤,示例:

r'chuanzhiboke\t\.\tpython'

re模塊的一般使用步驟如下:

  1. 使用compile()函數(shù)將正則表達式的字符串形式編譯為一個Pattern對象
  2. 通過Pattern對象提供的一系列方法將文本進行匹配查找,獲得匹配結(jié)果(一個Match對象)
  3. 最后使用Match對象提供的屬性和方法獲得信息腔稀,根據(jù)需要進行其他的操作盆昙。

compile對象

compile函數(shù)用于編譯正則表達式羽历,生成一個Pattern對象,它的一般使用形式如下:

import re

#將正則表達式編譯為Pattern對象
pattern = re.compile(r'\d+')

在上面淡喜,我們已將一個正則表達式編譯成Pattern對象秕磷,接下來,我們就可以利用pattern的一系列方法對文本進行匹配查找了炼团。
Pattern對象的一些常用方法主要有:

  • match對象:從起始位置開始查找澎嚣,一次匹配。
  • search對象:從任何位置開始查找瘟芝,一次匹配易桃。
  • findall()對象:全部匹配,返回列表锌俱。
  • finditer()對象:全部匹配晤郑,返回迭代器。
  • spilt()對象:分割字符串嚼鹉,返回列表
  • sub()對象:替換

match 方法
match方法用于查找字符串的頭部(也可以指定起始位置)贩汉,它是一次匹配,只要找到了一個匹配的結(jié)果返回锚赤,而不是查找所有匹配的結(jié)果匹舞,它的一般使用形式如下:

match(string[, pos[, endpos]])

其中,string是待匹配的字符串线脚,pos和endpos是可選參數(shù)赐稽,指定字符串的起始和終點位置,默認值分別是0和len(字符串長度)浑侥。因此姊舵,當(dāng)你不指定pos和endpos時,match方法默認匹配字符串的頭部寓落。

當(dāng)匹配成功時括丁,返回一個Match對象,如果沒有匹配上伶选,則返回None史飞。

>>>import re
>>>pattern = re.compile(r'\d+')  #用于匹配至少一個數(shù)字

>>>m = pattern.match('one12twothree34four')  #查找頭部,沒有匹配
>>>print(m) #如果沒有匹配上仰税,就什么也不輸出

>>>m = pattern.match('one12twothree34four', 2, 10) #從'e'的位置開始匹配构资,沒有匹配到
>>>print(m)
>>>m = pattern.match('one12twothree34four', 3, 10) #從'1' 的位置開始匹配,正好匹配上
>>>print(m)
<_sre.SRE_Match object at 0x10a42aac0>
>>>m.group(0)   #可忽略0
'12'
>>>m.start(0)   #可忽略0
3
>>>m.end(0)    #可忽略0
5
>>>m.span(0)  #可忽略0
(3, 5)

在上面陨簇,當(dāng)匹配成功時返回一個Match對象吐绵,其中:

  • group([group1,...])方法用于獲得一個或多個分組匹配的字符串,當(dāng)要獲得整個匹配字符串的子串時,可直接使用group()或group(0);
  • start([group])方法用于獲取分組匹配的子串在整個字符串中的起始位置(子串第一個字符的索引),參數(shù)默認值為0己单;
  • end([group])方法用于獲取分組匹配的子串在整個字符串中的結(jié)束位置(子串最后一個字符的索引+1),參數(shù)默認值是0
  • span([group])方法返回(start[group], end(group))
>>>import re
>>>pattern = re.compile(r'([a-z]+) ([a-z]+)', re.I) #表示忽略大小寫
>>>m = pattern.match('hello world wide web')

>>>print(m)  #匹配成功唉窃,返回一個Match對象
<_sre.SRE_Match object at 0x10bea83e8>

>>>m.group(0)  #返回匹配成功的整個子串
'Hello World'

>>>m.span(0)   #返回匹配成功的整個子串
(0, 11)

>>>m.group(1)   #返回第一個分組匹配成功的子串
'Hello'

>>>m.span(1)  #返回第一個分組匹配成功
(0, 5)

>>>m.group(2)   #返回第2個分組匹配成功的子串
'World'

>>>m.span(2)     #返回第2個分組匹配成功的子串的位置
(6, 11)

>>>m.groups()   #等價于(m.group(1), m.group(2), ...)
('Hello', 'World')

>>>m.group(3)   #不存在第3個分組
Traceback (most recent call last):
  File "<stdin>", line 1, in <module>
IndexError: no such group

search方法
search方法用于查找字符串的任何位置,它也是一次匹配荷鼠,只要找到了一個匹配的結(jié)果就返回句携,而不是查找所有匹配的結(jié)果,它的一般使用形式如下:

search[string[, pos[, endpos]]]

其中允乐,string是待匹配的字符串矮嫉,pos和endpos是可選參數(shù),指定字符串的起始和終點位置牍疏,默認值分別是0和len(字符串長度)蠢笋。
當(dāng)匹配成功時,返回一個Match對象鳞陨,如果沒有匹配上昨寞,則返回None。
讓我們看看例子:

>>>import re
>>>pattern = re.compile('\d+')
>>>m = pattern.search('one12twothree34four')  #這里如果使用match方法則不匹配
>>>m
<_sre.SRE_Match object at 0x10cc03ac0>
>>>m.group()
'12'
>>>m = pattern.search('one12twothree34four', 10, 30)   #指定字符串區(qū)間  
>>>m
<_sre.SRE_Match object at 0x10cc03b28>
>>>m.group()
'34'
>>>m.span()
(13, 15)

在看一個例子:

# coding:utf-8
import re
#將正則表達式編譯成Pattern對象
pattern = re.compile(r'\d+')
#使用search()方法查找匹配的字符串厦滤,不存在匹配的子串時將不返回
m = pattern.search('hello 123456 789')
if m:
    #使用Match獲得分組信息
    print('matching string:',m.group())
    #起始位置和結(jié)束位置
    print('position: ',m.span())

執(zhí)行結(jié)果:

matching string: 123456
position:(6,12)

findall 方法
上面的match和search方法都是一次匹配援岩,只要找到了一個匹配的結(jié)果就返回。然而掏导,在大多數(shù)時候享怀,我們需要搜索整個字符串,獲得所有匹配的結(jié)果趟咆。
findall方法的使用形式如下:

findall(string[, pos[, endpos]])

其中添瓷,string是待匹配的字符串,pos和endpos是可選參數(shù)值纱,指定字符串的起始和終點位置分別是0和len(字符串長度)鳞贷。
findall是以列表形式返回全部能匹配到的子串,如果沒有匹配虐唠,則返回一個空列表搀愧。

import re
pattern = re.compile(r'\d+')  #查找數(shù)字

result1 = pattern.findall('hello 123456 789')
result2 = pattern.findall('one1two2three3four4', 0, 10)

print(result1)
print(2)

執(zhí)行結(jié)果如下:

['123456', '789']
['1', '2']

再來看一個例子:

import re
#re模塊提供一個方法叫compile提供,提供我們輸入一個匹配的規(guī)則
#然后返回一個pattern實例疆偿,我們根據(jù)這個規(guī)則去匹配字符串
pattern = re.compile(r'd+\.\d*')

#通過pattern.findall()方法能夠全部匹配到我們得到的字符串
result = pattern.findall("123.141593, 'bigcat', 232312, 3.15")

#findall以列表形式 返回全部能匹配到的子串給result
for item in result:
    print(item)

運行結(jié)果:

123.141593
3.15

finditer方法
finditer方法的行為跟findall的行為類似咱筛,也是搜索整個字符串,獲得所有匹配的結(jié)果翁脆。但它返回一個順序訪問每一個匹配結(jié)果(Match對象)的迭代器。

#coding:utf-8
import re

pattern = re.compile(r'\d+')

result1 = pattern.finditer('hello 123456 789')
result2 = pattern.finditer('one1two2three3four4', 0, 10)
print(result1)
print(result2)
print('result1....')
for m1 in result1:
    print("matching string:{} position:{}".format(m1.group(), m1.span()))

print('result2....')
for m2 in result2:
    print("matching string:{} position:{}".format(m2.group(), m2.span()))

執(zhí)行結(jié)果:

<type 'callable-iterator'>
<type 'callable-iterator'>
result1.
matching string: 123456, position: (6, 12)
matching string: 789, position: (13, 16)
result2
matching string: 1, position: (3, 4)
matching string: 2, position: (7, 8)

split 方法
split方法按照能夠匹配的子串將字符串分割后返回列表鼻种,它的使用形式如下:

split(string[, maxsplit])

其中反番,maxsplit用于指導(dǎo)最大分割次數(shù),不知道靜全部分割。
看看例子:

import re
p = re.compile(r'[\s\,;]+')
print(p.split('a,b;;c   d'))

執(zhí)行結(jié)果:

['a', 'b', 'c', 'd']

sub方法
sub方法用于替換罢缸。它的使用形式如下:

sub(repl, string[, count])

其中篙贸,repl可以是字符串也可以是一函數(shù):

  • 如果repl是字符串,則會使用repl去替換字符串每一個匹配的子串枫疆,并返回替換后的字符串爵川,repl還可以使用id的形式來引用過分組,但不能使用編號0息楔;
  • 如果repl是函數(shù)寝贡,這個方法應(yīng)當(dāng)只接受一個參數(shù)(Match對象),并返回一個字符串用于替換(返回的字符串中不能再引用分組)值依。
  • count用于指導(dǎo)最多替換次數(shù)圃泡,不指定時全部替換。

看看例子:

import re
p = re.compile(r'(\w+) (\w+)')  #\w=[A-Za-z0-9]
s = 'hello 123, hello 456'

print(p.sub(r'hello world', s))   #使用'hello world'替換'hello 123'和'hello 456'
print(p.sub(r'\2 \1', s))

def func(m):
    return 'hi' + ' ' + m.group(2)

print(p.sub(func, s))
print(p.sub(func, s, 1))

執(zhí)行結(jié)果:

hello world, hello world
123 hello, 456 hello
hi 123, hi 456
hi 123, hello 456

匹配中文
在某些情況下愿险,我們想要匹配文本中的漢字颇蜡,有一點需要注意的是,中文的unicode編碼范圍主要在[u4e00-u9fa5]辆亏,這里說主要是因為這個范圍并不完整风秤,比如沒有包括全角(中文)標(biāo)點,不過扮叨,在大部分情況下缤弦,應(yīng)該是夠用的。
假設(shè)現(xiàn)在想把字符串title=u'你好甫匹,hello甸鸟,世界'中的中文提取出來,可以這么做:

import re
title = u'你好兵迅,hello抢韭,世界'
pattern = re.compile(u'[\u4e00-\u9fa5]+')
result = pattern.findall(title)

print(result)

注意到,我們在正則表達式前面加上了前綴u恍箭,u表示unicode字符串刻恭。
執(zhí)行結(jié)果:

['你好', '世界']

注意:貪婪模式與非貪婪模式

  1. 貪婪模式:在整個表達式匹配成功的前提下,盡可能多的匹配(*);
  2. 非貪婪模式:在整個表達式匹配成功的前提下扯夭,盡可能少的匹配(?);
  3. Python里數(shù)量詞默認是貪婪的鳍贾。

實例一:源字符串:abbbc

  • 使用貪婪的數(shù)量詞的正則表達式ab+,匹配結(jié)果:abbb。

*決定了盡可能多匹配b交洗,所以a后面所有的b都出現(xiàn)了骑科。

  • 使用非貪婪的數(shù)量詞的正則表達式ab*?,匹配結(jié)果:a构拳。

即使前面有*,但是?決定了盡可能少匹配b咆爽,所以沒有b梁棠。

實例二:源字符串:aa<div>test1</div>bb<div>test2</div>cc

  • 使用貪婪的數(shù)量詞的正則表達式:<div>.*</div>
  • 匹配結(jié)果:<div>test1</div>bb<div>test2</div>

這里采用的是貪婪模式。在匹配到第一個“</div>”時已經(jīng)可以使整個表達式匹配成功斗埂,但是由于采用的是貪婪模式符糊,所以仍然要向右嘗試匹配,查看是否還有更長的可以成功匹配的子串呛凶。匹配到第二個“</div>”后男娄,向右再沒有可以成功匹配的子串,匹配結(jié)束漾稀,匹配結(jié)果為“<div>test1</div>bb<div>test2</div>

  • 使用非貪婪的數(shù)量詞的正則表達式:<div>.*?</div>
  • 匹配結(jié)果:<div>test1</div>

正則表達式二采用的是非貪婪模式模闲,在匹配到第一個“</div>”時使整個表達式匹配成功,由于采用的是非貪婪模式县好,所以結(jié)束匹配围橡,不再向右嘗試,匹配結(jié)果為“<div>test1</div>”缕贡。

參考

  1. 正則表達式測試網(wǎng)址
  2. 廖雪峰-正則表達式
  3. Python正則匹配中文與編碼總結(jié)
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末翁授,一起剝皮案震驚了整個濱河市,隨后出現(xiàn)的幾起案子晾咪,更是在濱河造成了極大的恐慌收擦,老刑警劉巖,帶你破解...
    沈念sama閱讀 206,013評論 6 481
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件谍倦,死亡現(xiàn)場離奇詭異塞赂,居然都是意外死亡,警方通過查閱死者的電腦和手機昼蛀,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 88,205評論 2 382
  • 文/潘曉璐 我一進店門宴猾,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人叼旋,你說我怎么就攤上這事仇哆。” “怎么了夫植?”我有些...
    開封第一講書人閱讀 152,370評論 0 342
  • 文/不壞的土叔 我叫張陵讹剔,是天一觀的道長。 經(jīng)常有香客問我详民,道長延欠,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 55,168評論 1 278
  • 正文 為了忘掉前任沈跨,我火速辦了婚禮由捎,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘饿凛。我一直安慰自己狞玛,他們只是感情好邻奠,可當(dāng)我...
    茶點故事閱讀 64,153評論 5 371
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著为居,像睡著了一般。 火紅的嫁衣襯著肌膚如雪杀狡。 梳的紋絲不亂的頭發(fā)上蒙畴,一...
    開封第一講書人閱讀 48,954評論 1 283
  • 那天,我揣著相機與錄音呜象,去河邊找鬼膳凝。 笑死,一個胖子當(dāng)著我的面吹牛恭陡,可吹牛的內(nèi)容都是我干的蹬音。 我是一名探鬼主播,決...
    沈念sama閱讀 38,271評論 3 399
  • 文/蒼蘭香墨 我猛地睜開眼休玩,長吁一口氣:“原來是場噩夢啊……” “哼著淆!你這毒婦竟也來了?” 一聲冷哼從身側(cè)響起拴疤,我...
    開封第一講書人閱讀 36,916評論 0 259
  • 序言:老撾萬榮一對情侶失蹤永部,失蹤者是張志新(化名)和其女友劉穎,沒想到半個月后呐矾,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體苔埋,經(jīng)...
    沈念sama閱讀 43,382評論 1 300
  • 正文 獨居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 35,877評論 2 323
  • 正文 我和宋清朗相戀三年蜒犯,在試婚紗的時候發(fā)現(xiàn)自己被綠了组橄。 大學(xué)時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點故事閱讀 37,989評論 1 333
  • 序言:一個原本活蹦亂跳的男人離奇死亡罚随,死狀恐怖玉工,靈堂內(nèi)的尸體忽然破棺而出,到底是詐尸還是另有隱情毫炉,我是刑警寧澤瓮栗,帶...
    沈念sama閱讀 33,624評論 4 322
  • 正文 年R本政府宣布,位于F島的核電站瞄勾,受9級特大地震影響费奸,放射性物質(zhì)發(fā)生泄漏。R本人自食惡果不足惜进陡,卻給世界環(huán)境...
    茶點故事閱讀 39,209評論 3 307
  • 文/蒙蒙 一愿阐、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧趾疚,春花似錦缨历、人聲如沸以蕴。這莊子的主人今日做“春日...
    開封第一講書人閱讀 30,199評論 0 19
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽丛肮。三九已至,卻和暖如春魄缚,著一層夾襖步出監(jiān)牢的瞬間宝与,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 31,418評論 1 260
  • 我被黑心中介騙來泰國打工冶匹, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留习劫,地道東北人。 一個月前我還...
    沈念sama閱讀 45,401評論 2 352
  • 正文 我出身青樓嚼隘,卻偏偏與公主長得像诽里,于是被迫代替她去往敵國和親。 傳聞我的和親對象是個殘疾皇子飞蛹,可洞房花燭夜當(dāng)晚...
    茶點故事閱讀 42,700評論 2 345

推薦閱讀更多精彩內(nèi)容