爬蟲BeautifulSoup 的 CSS 選擇器

BeautifulSoup支持最常用的CSS選擇器落君,在 Tag 或 BeautifulSoup 對象的 .select() 方法中傳入字符串參數(shù)亭引,即可使用CSS選擇器的語法找到tag绎速。

CSS選擇器

CSS選擇器是一種單獨的文檔搜索語法。
詳情請見此鏈接

BS4中的CSS選擇器

本篇所使用的html為:

html_doc = """
<html><head><title>The Dormouse's story</title></head>
<body>
<p class="title"><b>The Dormouse's story</b></p>
 
<p class="story">Once upon a time there were three little sisters; and their names were
<a  class="sister" id="link1">Elsie</a>,
<a  class="sister" id="link2">Lacie</a> and
<a  class="sister" id="link3">Tillie</a>;
and they lived at the bottom of a well.</p>
 
<p class="story">...</p>
"""

你可以這樣搜索tag:

soup.select("title")
# [<title>The Dormouse's story</title>]
 
soup.select("p nth-of-type(3)")
# [<p class="story">...</p>]

另外焙蚓,你也可以搜索在其他父標簽內(nèi)部的標簽纹冤,即通過標簽的所屬關(guān)系尋找標簽:

soup.select("body a")   #搜索在body標簽內(nèi)部的a標簽
# [<a class="sister"  id="link1">Elsie</a>,
#  <a class="sister"   id="link2">Lacie</a>,
#  <a class="sister"  id="link3">Tillie</a>]
 
soup.select("html head title")  #搜索在html->head標簽內(nèi)部的標簽
# [<title>The Dormouse's story</title>]

可以直接尋找在其他標簽內(nèi)部的標簽:

soup.select("head > title")
# [<title>The Dormouse's story</title>]
 
soup.select("p > a")
# [<a class="sister"  id="link1">Elsie</a>,
#  <a class="sister"   id="link2">Lacie</a>,
#  <a class="sister"  id="link3">Tillie</a>]
 
soup.select("p > a:nth-of-type(2)")
# [<a class="sister"  id="link2">Lacie</a>]
 
soup.select("p > #link1")
# [<a class="sister"  id="link1">Elsie</a>]
 
soup.select("body > a")
# []

通過tags標簽獲得元素的同胞兄弟:

soup.select("#link1 ~ .sister")  #獲得id為link1,class為sister的兄弟標簽內(nèi)容(所有的兄弟便簽)
# [<a class="sister"  id="link2">Lacie</a>,
#  <a class="sister"   id="link3">Tillie</a>]
 
soup.select("#link1 + .sister")   #獲得id為link1购公,class為sister的兄弟標簽內(nèi)容(下一個兄弟便簽)
# [<a class="sister"  id="link2">Lacie</a>]

通過CSS的類獲得tags標簽:

soup.select(".sister") #獲得所有class為sister的標簽
# [<a class="sister"  id="link1">Elsie</a>,
#  <a class="sister"  id="link2">Lacie</a>,
#  <a class="sister"  id="link3">Tillie</a>]
 
soup.select("[class~=sister]")  #效果同上一個
# [<a class="sister"  id="link1">Elsie</a>,
#  <a class="sister"  id="link2">Lacie</a>,
#  <a class="sister"  id="link3">Tillie</a>]

通過id獲得標簽:

soup.select("#link1") #通過設(shè)置參數(shù)為id來獲取該id對應(yīng)的tag
# [<a class="sister"  id="link1">Elsie</a>]
 
soup.select("a#link2")  #這里區(qū)別于上一個單純的使用id萌京,又增添了tag屬性,使查找更加具體
# [<a class="sister"  id="link2">Lacie</a>]

通過設(shè)置select函數(shù)的參數(shù)為列表宏浩,來獲取tags知残。只要匹配列表中的任意一個則就可以捕獲。

soup.select(“#link1,#link2”) #捕獲id為link1或link2的標簽
# [<a class=”sister” href=”http://example.com/elsie” id=”link1”>Elsie</a>, 
# <a class=”sister” href=”http://example.com/lacie” id=”link2”>Lacie</a>]

按照標簽是否存在某個屬性來獲惹竺谩:

soup.select('a[href]') #獲取a標簽中具有href屬性的標簽
# [<a class="sister"  id="link1">Elsie</a>,
#  <a class="sister"  id="link2">Lacie</a>,
#  <a class="sister"  id="link3">Tillie</a>]

通過某個標簽的具體某個屬性值來查找tags:

soup.select('a[)
# [<a class="sister"  id="link1">Elsie</a>]
 
soup.select('a[href^="http://example.com/"]')
# [<a class="sister"  id="link1">Elsie</a>,
#  <a class="sister"  id="link2">Lacie</a>,
#  <a class="sister"  id="link3">Tillie</a>]
 
soup.select('a[href$="tillie"]')
# [<a class="sister"  id="link3">Tillie</a>]
 
soup.select('a[href*=".com/el"]')
# [<a class="sister"  id="link1">Elsie</a>]

這里需要解釋一下:
soup.select(‘a(chǎn)[href^=”http://example.com/”]’)意思是查找href屬性值是以”http://example.com/“值為開頭的標簽,可以查看博客介紹佳窑。
soup.select(‘a(chǎn)[href$=”tillie”]’)意思是查找href屬性值是以tillie為結(jié)尾的標簽制恍。
soup.select(‘a(chǎn)[href*=”.com/el”]’)意思是查找href屬性值中存在字符串”.com/el”的標簽,所以只有href=”http://example.com/elsie”一個匹配华嘹。

查詢符合查詢條件的第一個標簽:

soup.select_one(".sister") #只查詢符合條件的第一個tag
# <a class="sister"  id="link1">Elsie</a>
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末吧趣,一起剝皮案震驚了整個濱河市,隨后出現(xiàn)的幾起案子耙厚,更是在濱河造成了極大的恐慌强挫,老刑警劉巖,帶你破解...
    沈念sama閱讀 222,946評論 6 518
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件薛躬,死亡現(xiàn)場離奇詭異俯渤,居然都是意外死亡,警方通過查閱死者的電腦和手機型宝,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 95,336評論 3 399
  • 文/潘曉璐 我一進店門八匠,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人趴酣,你說我怎么就攤上這事梨树。” “怎么了岖寞?”我有些...
    開封第一講書人閱讀 169,716評論 0 364
  • 文/不壞的土叔 我叫張陵抡四,是天一觀的道長。 經(jīng)常有香客問我,道長指巡,這世上最難降的妖魔是什么淑履? 我笑而不...
    開封第一講書人閱讀 60,222評論 1 300
  • 正文 為了忘掉前任,我火速辦了婚禮藻雪,結(jié)果婚禮上秘噪,老公的妹妹穿的比我還像新娘。我一直安慰自己勉耀,他們只是感情好指煎,可當我...
    茶點故事閱讀 69,223評論 6 398
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著便斥,像睡著了一般贯要。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上椭住,一...
    開封第一講書人閱讀 52,807評論 1 314
  • 那天,我揣著相機與錄音字逗,去河邊找鬼京郑。 笑死,一個胖子當著我的面吹牛葫掉,可吹牛的內(nèi)容都是我干的些举。 我是一名探鬼主播,決...
    沈念sama閱讀 41,235評論 3 424
  • 文/蒼蘭香墨 我猛地睜開眼俭厚,長吁一口氣:“原來是場噩夢啊……” “哼户魏!你這毒婦竟也來了?” 一聲冷哼從身側(cè)響起挪挤,我...
    開封第一講書人閱讀 40,189評論 0 277
  • 序言:老撾萬榮一對情侶失蹤叼丑,失蹤者是張志新(化名)和其女友劉穎,沒想到半個月后扛门,有當?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體鸠信,經(jīng)...
    沈念sama閱讀 46,712評論 1 320
  • 正文 獨居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 38,775評論 3 343
  • 正文 我和宋清朗相戀三年论寨,在試婚紗的時候發(fā)現(xiàn)自己被綠了星立。 大學(xué)時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點故事閱讀 40,926評論 1 353
  • 序言:一個原本活蹦亂跳的男人離奇死亡葬凳,死狀恐怖绰垂,靈堂內(nèi)的尸體忽然破棺而出,到底是詐尸還是另有隱情火焰,我是刑警寧澤劲装,帶...
    沈念sama閱讀 36,580評論 5 351
  • 正文 年R本政府宣布,位于F島的核電站荐健,受9級特大地震影響酱畅,放射性物質(zhì)發(fā)生泄漏琳袄。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點故事閱讀 42,259評論 3 336
  • 文/蒙蒙 一纺酸、第九天 我趴在偏房一處隱蔽的房頂上張望窖逗。 院中可真熱鬧,春花似錦餐蔬、人聲如沸碎紊。這莊子的主人今日做“春日...
    開封第一講書人閱讀 32,750評論 0 25
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽仗考。三九已至,卻和暖如春词爬,著一層夾襖步出監(jiān)牢的瞬間秃嗜,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 33,867評論 1 274
  • 我被黑心中介騙來泰國打工顿膨, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留锅锨,地道東北人。 一個月前我還...
    沈念sama閱讀 49,368評論 3 379
  • 正文 我出身青樓恋沃,卻偏偏與公主長得像必搞,于是被迫代替她去往敵國和親。 傳聞我的和親對象是個殘疾皇子囊咏,可洞房花燭夜當晚...
    茶點故事閱讀 45,930評論 2 361

推薦閱讀更多精彩內(nèi)容