(一)剛?cè)肱老x坑(3)——boss直聘數(shù)據(jù)爬取案例(re版本)

前面介紹了發(fā)送HTTP請求獲取服務(wù)器返回的數(shù)據(jù)、數(shù)據(jù)通過re庫進(jìn)行數(shù)據(jù)提取政基。這節(jié)就寫一個小案例,爬一下boss直聘中關(guān)于爬蟲的招聘信息闹啦。

打開boss直聘官網(wǎng)腋么,輸入爬蟲,點擊搜索按鈕亥揖。

進(jìn)入到列表頁面珊擂,點擊第二頁圣勒,第三頁等等,觀察url路徑的變化摧扇,可以發(fā)現(xiàn)page=2就是第二頁圣贸,后面的那個ka=page-2沒什么用,

記錄一下url地址扛稽,然后使用urllib.request模塊吁峻,發(fā)送一個HTTP請求,測試一下是否是我們需要的數(shù)據(jù)在张。

OK用含,此時已經(jīng)拿到了整個頁面的HTML代碼,接下來就是數(shù)據(jù)分析和提取了

這個頁面的HTML里面帮匾,需要的數(shù)據(jù)只有招聘的信息啄骇,<div class="job-primary">...</div>標(biāo)簽中的數(shù)據(jù)就是一條招聘信息。

接下來使用正則表達(dá)式進(jìn)行匹配瘟斜,先獲取整個<ul>缸夹,然后再批量獲取<li>:

self.deal_page(content_list)是提取數(shù)據(jù)的函數(shù),self.write_page()是將數(shù)據(jù)寫入文本的函數(shù)

接下來根據(jù)每一個<li>螺句,提取有價值的信息虽惭,保存到一個模型類中,并且統(tǒng)一存放到一個列表里:

模型類
信息提取結(jié)束

接下來需要將提取的數(shù)據(jù)寫入本地蛇尚,這里使用寫入到記事本中:

運行程序芽唇,在文件的當(dāng)前目錄中,就會有招聘信息

隨便打開一個文本文件取劫,查看一下里面的內(nèi)容匆笤,

到此Boss直聘上有關(guān)爬蟲的招聘信息,抓取完畢勇凭。

完整代碼疚膊。。虾标。

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末寓盗,一起剝皮案震驚了整個濱河市,隨后出現(xiàn)的幾起案子璧函,更是在濱河造成了極大的恐慌傀蚌,老刑警劉巖,帶你破解...
    沈念sama閱讀 206,839評論 6 482
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件蘸吓,死亡現(xiàn)場離奇詭異善炫,居然都是意外死亡,警方通過查閱死者的電腦和手機(jī)库继,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 88,543評論 2 382
  • 文/潘曉璐 我一進(jìn)店門箩艺,熙熙樓的掌柜王于貴愁眉苦臉地迎上來窜醉,“玉大人,你說我怎么就攤上這事艺谆≌ザ瑁” “怎么了?”我有些...
    開封第一講書人閱讀 153,116評論 0 344
  • 文/不壞的土叔 我叫張陵静汤,是天一觀的道長琅催。 經(jīng)常有香客問我,道長虫给,這世上最難降的妖魔是什么藤抡? 我笑而不...
    開封第一講書人閱讀 55,371評論 1 279
  • 正文 為了忘掉前任,我火速辦了婚禮抹估,結(jié)果婚禮上缠黍,老公的妹妹穿的比我還像新娘。我一直安慰自己棋蚌,他們只是感情好嫁佳,可當(dāng)我...
    茶點故事閱讀 64,384評論 5 374
  • 文/花漫 我一把揭開白布挨队。 她就那樣靜靜地躺著谷暮,像睡著了一般。 火紅的嫁衣襯著肌膚如雪盛垦。 梳的紋絲不亂的頭發(fā)上湿弦,一...
    開封第一講書人閱讀 49,111評論 1 285
  • 那天,我揣著相機(jī)與錄音腾夯,去河邊找鬼颊埃。 笑死,一個胖子當(dāng)著我的面吹牛蝶俱,可吹牛的內(nèi)容都是我干的班利。 我是一名探鬼主播,決...
    沈念sama閱讀 38,416評論 3 400
  • 文/蒼蘭香墨 我猛地睜開眼榨呆,長吁一口氣:“原來是場噩夢啊……” “哼罗标!你這毒婦竟也來了?” 一聲冷哼從身側(cè)響起积蜻,我...
    開封第一講書人閱讀 37,053評論 0 259
  • 序言:老撾萬榮一對情侶失蹤闯割,失蹤者是張志新(化名)和其女友劉穎,沒想到半個月后竿拆,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體宙拉,經(jīng)...
    沈念sama閱讀 43,558評論 1 300
  • 正文 獨居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 36,007評論 2 325
  • 正文 我和宋清朗相戀三年丙笋,在試婚紗的時候發(fā)現(xiàn)自己被綠了谢澈。 大學(xué)時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片煌贴。...
    茶點故事閱讀 38,117評論 1 334
  • 序言:一個原本活蹦亂跳的男人離奇死亡,死狀恐怖锥忿,靈堂內(nèi)的尸體忽然破棺而出崔步,到底是詐尸還是另有隱情,我是刑警寧澤缎谷,帶...
    沈念sama閱讀 33,756評論 4 324
  • 正文 年R本政府宣布井濒,位于F島的核電站,受9級特大地震影響列林,放射性物質(zhì)發(fā)生泄漏瑞你。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點故事閱讀 39,324評論 3 307
  • 文/蒙蒙 一希痴、第九天 我趴在偏房一處隱蔽的房頂上張望者甲。 院中可真熱鬧,春花似錦砌创、人聲如沸虏缸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 30,315評論 0 19
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽刽辙。三九已至,卻和暖如春甲献,著一層夾襖步出監(jiān)牢的瞬間宰缤,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 31,539評論 1 262
  • 我被黑心中介騙來泰國打工晃洒, 沒想到剛下飛機(jī)就差點兒被人妖公主榨干…… 1. 我叫王不留慨灭,地道東北人。 一個月前我還...
    沈念sama閱讀 45,578評論 2 355
  • 正文 我出身青樓球及,卻偏偏與公主長得像氧骤,于是被迫代替她去往敵國和親。 傳聞我的和親對象是個殘疾皇子吃引,可洞房花燭夜當(dāng)晚...
    茶點故事閱讀 42,877評論 2 345

推薦閱讀更多精彩內(nèi)容