使用request和BeautifulSoup來(lái)爬取網(wǎng)頁(yè)內(nèi)容

目前可以基本上說(shuō)是Python的天下俯树,Python真的是非沉备梗火的一門(mén)編程語(yǔ)言,而且它非常的簡(jiǎn)單许饿,以至于小學(xué)生都可以學(xué)會(huì)阳欲,那么作為已經(jīng)成年的我,更應(yīng)該學(xué)習(xí)這門(mén)編程語(yǔ)言了陋率,下面我就將自己在學(xué)習(xí)Python爬蟲(chóng)時(shí)遇到的問(wèn)題進(jìn)行簡(jiǎn)單的總結(jié):

既然要使用Python爬取網(wǎng)站信息球化,那么我們就需要知道怎么使用Python才能爬取到我們需要的信息,這就牽扯到我們今天需要介紹的內(nèi)容:requests庫(kù)

  1. 首先是安裝requests庫(kù):如下圖所示:
安裝requests庫(kù)

代碼如下:

pip install requests

需要注意的一點(diǎn)是瓦糟,如果安裝出現(xiàn)了錯(cuò)誤筒愚,這個(gè)時(shí)候需要更換到國(guó)內(nèi)的源,國(guó)內(nèi)的是使用的是豆瓣菩浙,具體方法巢掺,請(qǐng)自行百度。

  1. 安裝jupyter

具體的安裝步驟:請(qǐng)參閱Python學(xué)習(xí)之Jupyter Notebook和highchart安裝劲蜻,下面我們就可以是用jupyter來(lái)書(shū)寫(xiě)代碼陆淀,而且操作方法。

  1. 爬蟲(chóng)代碼

當(dāng)然我們練習(xí)的時(shí)候先嬉,可以使用簡(jiǎn)書(shū)的網(wǎng)站來(lái)爬取數(shù)據(jù)轧苫,代碼如下:

# -*- coding: utf-8 -*-
import requests
url = 'http://www.reibang.com'
res = requests.get(url)
print(res.text)

就可以答應(yīng)出下面圖片中所示的內(nèi)容,跟簡(jiǎn)書(shū)網(wǎng)站比較坝初,就發(fā)現(xiàn)我們已經(jīng)完整的將簡(jiǎn)書(shū)網(wǎng)首頁(yè)的數(shù)據(jù)爬取下來(lái)了浸剩。如圖:

爬取的網(wǎng)頁(yè)信息
  1. 使用BeautifulSoup來(lái)解析網(wǎng)頁(yè)數(shù)據(jù)

現(xiàn)在我們是已經(jīng)將網(wǎng)頁(yè)整個(gè)html頁(yè)面拿到了,可是這里面包含很多的標(biāo)簽鳄袍,我們需要去掉標(biāo)簽绢要,將標(biāo)簽中的有用的信息展示出來(lái),那么就需要使用另外一個(gè)非常好用的Python庫(kù)--BeautifulSoup拗小,到底如何解析標(biāo)簽中的數(shù)據(jù)內(nèi)重罪,我們可以通過(guò)查看文檔(Beautiful Soup 4.2.0 文檔)來(lái)進(jìn)行解析,也可以瀏覽視頻哀九,而且現(xiàn)在的在線教育的視頻資源是非常豐富的剿配。

下面我就展示其中的一種解析方法,當(dāng)然有很多的解析方法阅束,具體可以查閱文檔呼胚。代碼如下:

# -*- coding: utf-8 -*-
import requests
from bs4 import BeautifulSoup
url = 'http://www.reibang.com'
res = requests.get(url)
ret = res.text

# print(type(ret))
soup = BeautifulSoup(ret,'html.parse')
print(soup.text)

需要注意的是:我的環(huán)境使用的Python3.5的版本,因此在打印輸出的時(shí)候使用的是小括號(hào)息裸,而在Python2.7的版本中打印時(shí)不需要使用小括號(hào)蝇更,還有使用BeautifulSoup解析字符串時(shí)沪编,需要傳入第二個(gè)參數(shù),如果沒(méi)有傳入的話年扩,會(huì)出現(xiàn)警告錯(cuò)誤的蚁廓,獲得的數(shù)據(jù)如下:

解析完畢之后的數(shù)據(jù)

當(dāng)然這只是獲得了所有的數(shù)據(jù),我們還可以具體的獲得其中一小部分的數(shù)據(jù)厨幻,我們下次再進(jìn)行說(shuō)明相嵌。

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個(gè)濱河市况脆,隨后出現(xiàn)的幾起案子饭宾,更是在濱河造成了極大的恐慌,老刑警劉巖漠另,帶你破解...
    沈念sama閱讀 218,640評(píng)論 6 507
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件捏雌,死亡現(xiàn)場(chǎng)離奇詭異,居然都是意外死亡笆搓,警方通過(guò)查閱死者的電腦和手機(jī)性湿,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 93,254評(píng)論 3 395
  • 文/潘曉璐 我一進(jìn)店門(mén),熙熙樓的掌柜王于貴愁眉苦臉地迎上來(lái)满败,“玉大人肤频,你說(shuō)我怎么就攤上這事∷隳” “怎么了宵荒?”我有些...
    開(kāi)封第一講書(shū)人閱讀 165,011評(píng)論 0 355
  • 文/不壞的土叔 我叫張陵,是天一觀的道長(zhǎng)净嘀。 經(jīng)常有香客問(wèn)我报咳,道長(zhǎng),這世上最難降的妖魔是什么挖藏? 我笑而不...
    開(kāi)封第一講書(shū)人閱讀 58,755評(píng)論 1 294
  • 正文 為了忘掉前任暑刃,我火速辦了婚禮,結(jié)果婚禮上膜眠,老公的妹妹穿的比我還像新娘岩臣。我一直安慰自己,他們只是感情好宵膨,可當(dāng)我...
    茶點(diǎn)故事閱讀 67,774評(píng)論 6 392
  • 文/花漫 我一把揭開(kāi)白布架谎。 她就那樣靜靜地躺著,像睡著了一般辟躏。 火紅的嫁衣襯著肌膚如雪谷扣。 梳的紋絲不亂的頭發(fā)上,一...
    開(kāi)封第一講書(shū)人閱讀 51,610評(píng)論 1 305
  • 那天捎琐,我揣著相機(jī)與錄音抑钟,去河邊找鬼涯曲。 笑死,一個(gè)胖子當(dāng)著我的面吹牛在塔,可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播拨黔,決...
    沈念sama閱讀 40,352評(píng)論 3 418
  • 文/蒼蘭香墨 我猛地睜開(kāi)眼蛔溃,長(zhǎng)吁一口氣:“原來(lái)是場(chǎng)噩夢(mèng)啊……” “哼!你這毒婦竟也來(lái)了篱蝇?” 一聲冷哼從身側(cè)響起贺待,我...
    開(kāi)封第一講書(shū)人閱讀 39,257評(píng)論 0 276
  • 序言:老撾萬(wàn)榮一對(duì)情侶失蹤,失蹤者是張志新(化名)和其女友劉穎零截,沒(méi)想到半個(gè)月后麸塞,有當(dāng)?shù)厝嗽跇?shù)林里發(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 45,717評(píng)論 1 315
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡涧衙,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 37,894評(píng)論 3 336
  • 正文 我和宋清朗相戀三年哪工,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片弧哎。...
    茶點(diǎn)故事閱讀 40,021評(píng)論 1 350
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡雁比,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出撤嫩,到底是詐尸還是另有隱情偎捎,我是刑警寧澤,帶...
    沈念sama閱讀 35,735評(píng)論 5 346
  • 正文 年R本政府宣布序攘,位于F島的核電站茴她,受9級(jí)特大地震影響,放射性物質(zhì)發(fā)生泄漏程奠。R本人自食惡果不足惜丈牢,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 41,354評(píng)論 3 330
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望梦染。 院中可真熱鬧赡麦,春花似錦、人聲如沸帕识。這莊子的主人今日做“春日...
    開(kāi)封第一講書(shū)人閱讀 31,936評(píng)論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽(yáng)肮疗。三九已至晶姊,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間伪货,已是汗流浹背们衙。 一陣腳步聲響...
    開(kāi)封第一講書(shū)人閱讀 33,054評(píng)論 1 270
  • 我被黑心中介騙來(lái)泰國(guó)打工钾怔, 沒(méi)想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留,地道東北人蒙挑。 一個(gè)月前我還...
    沈念sama閱讀 48,224評(píng)論 3 371
  • 正文 我出身青樓宗侦,卻偏偏與公主長(zhǎng)得像,于是被迫代替她去往敵國(guó)和親忆蚀。 傳聞我的和親對(duì)象是個(gè)殘疾皇子矾利,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 44,974評(píng)論 2 355

推薦閱讀更多精彩內(nèi)容

  • 原文鏈接 《Python數(shù)據(jù)分析》(Python for Data Analysis, 2nd Edition)第...
    李紹俊閱讀 8,255評(píng)論 0 5
  • Android 自定義View的各種姿勢(shì)1 Activity的顯示之ViewRootImpl詳解 Activity...
    passiontim閱讀 172,156評(píng)論 25 707
  • 我不知道風(fēng) 是在哪一個(gè)方向吹—— 我是在夢(mèng)里男旗, 在夢(mèng)里沉吟輾轉(zhuǎn) 我不知道風(fēng) 是在哪一個(gè)方向吹—— 我是在路上 在路...
    楚生閱讀 200評(píng)論 1 1
  • 六點(diǎn)下班,七點(diǎn)的時(shí)候接到侄女的電話欣鳖,哭著說(shuō):姑姑察皇,你能不能給我爸打個(gè)電話啊,我爸把我電話掛掉了泽台,他現(xiàn)在不接我電話什荣,...
    默默_MMo閱讀 277評(píng)論 0 0
  • 現(xiàn)在的痛苦,明年看來(lái)根本不是事师痕;高三當(dāng)時(shí)覺(jué)得特別痛苦溃睹,現(xiàn)在覺(jué)得當(dāng)時(shí)很幸福。所以凡事看開(kāi)點(diǎn)胰坟,說(shuō)不定明年的你會(huì)羨慕現(xiàn)在...
    H哈哈哈哈哈哈哈閱讀 275評(píng)論 0 1