Python中requests模塊的核心使用(1)

簡介:

requests模塊的底層實現(xiàn)其實還是urllib植兰,但是urllib并不常用

requests庫簡單易用

快速上手

http://docs.python-requests.org/zh_CN/latest/user/quickstart.html

常用屬性

import requests

url = "http://www.baidu.com"

response = requests.get(url)

print(response.url)

print(response.status_code)

print(response.headers)

print(response.request.headers)

運行結果

運行結果

解釋:

response.url:顧名思義蛉威,即請求的url地址

response.status_code:即響應的狀態(tài)碼

response.headers:響應頭

response.requests.headers:響應對應的請求頭,即我們在請求時帶的請求頭,簡單來說就是瀏覽器識別的我們訪問其網(wǎng)站帶有的請求頭缎罢,這里以請求百度為例,很明顯,這里的'User-Agent': 'python-requests/2.19.1',其實就是告訴訪問的url辈赋,我是python的requests訪問的。

print(response.content.decode())

response.content.decode():獲取網(wǎng)頁源碼

案例:獲取百度首頁的百度圖片

第一步:

百度首頁

首先在百度首頁的百度logo圖片上點擊鼠標右鍵膏燕,點擊檢查钥屈,或者按鍵盤上的F12,

image.png

找到這個logo的圖片的src坝辫,即鏈接地址:

//www.baidu.com/img/superlogo_c4d7df0a003d3db9b65e9ef0fe6da1ec.png?where=super

import requests

url = "http://www.baidu.com/img/superlogo_c4d7df0a003d3db9b65e9ef0fe6da1ec.png?where=super"

response = requests.get(url)

with open("baidu.png", "wb") as f:

    f.write(response.content)

完整代碼如上篷就,得到結果在當前的目錄,即在當前目錄即可以看到baidu.png這張圖片了

發(fā)送帶headers的請求

還記得剛才描述的headers的內(nèi)容嗎近忙?

response.requests.headers:響應對應的請求頭竭业,即我們在請求時帶的請求頭智润,簡單來說就是瀏覽器識別的我們訪問其網(wǎng)站帶有的請求頭,這里以請求百度為例未辆,很明顯窟绷,這里的'User-Agent': 'python-requests/2.19.1',其實就是告訴訪問的url,我是python的requests訪問的鼎姐。

在這種情況下钾麸,瀏覽器是知道我們是爬蟲在瀏覽,那么長期這么操作會導致該網(wǎng)站對IP進行封鎖炕桨,尤其是短時間內(nèi)訪問量非常大的情況下饭尝,那么這個時候我們就需要對寫的爬蟲進行headers偽裝

怎么找到headers呢?

image.png

在瀏覽器控制臺中献宫,找到Network钥平,如果Network里什么都沒有,點擊瀏覽器的刷新姊途,或者按F5刷新涉瘾,即可出現(xiàn)內(nèi)容,在內(nèi)容中點擊左邊的第一個或者其他的都行捷兰,只要會出現(xiàn)這樣的headers就可以立叛,我們可以在這里面找到User-Agent,將User-Agent后面的內(nèi)容復制出來,放到我們構造的headers里面贡茅。

把它構造成字典的形式秘蛇,即:

headers = {
    "User-Agent":"Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/70.0.3538.110 Safari/537.36"
}

完整代碼如下:

import requests

url = "http://www.baidu.com"

headers = {
    "User-Agent":"Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/70.0.3538.110 Safari/537.36"
}

response = requests.get(url, headers=headers)

print(len(response.content))

感興趣的小伙伴可以對比一下,帶有headers的請求和沒有帶有headers的請求的區(qū)別顶考,這個代碼可以看到請求來的內(nèi)容的總字節(jié)數(shù)赁还,可以對比字節(jié)數(shù)是否一致,帶headers的請求到的數(shù)據(jù)是否比不帶headers的請求驹沿,請求到的數(shù)據(jù)要多艘策?

這就是簡單的requests的請求


個人博客地址:www.limiao.tech

WX公眾號:TechBoard

不斷更新,歡迎大家的加入

最后編輯于
?著作權歸作者所有,轉載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末渊季,一起剝皮案震驚了整個濱河市朋蔫,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌梭域,老刑警劉巖斑举,帶你破解...
    沈念sama閱讀 221,888評論 6 515
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場離奇詭異病涨,居然都是意外死亡富玷,警方通過查閱死者的電腦和手機,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 94,677評論 3 399
  • 文/潘曉璐 我一進店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來赎懦,“玉大人雀鹃,你說我怎么就攤上這事±剑” “怎么了黎茎?”我有些...
    開封第一講書人閱讀 168,386評論 0 360
  • 文/不壞的土叔 我叫張陵,是天一觀的道長当悔。 經(jīng)常有香客問我傅瞻,道長,這世上最難降的妖魔是什么盲憎? 我笑而不...
    開封第一講書人閱讀 59,726評論 1 297
  • 正文 為了忘掉前任嗅骄,我火速辦了婚禮,結果婚禮上饼疙,老公的妹妹穿的比我還像新娘溺森。我一直安慰自己,他們只是感情好窑眯,可當我...
    茶點故事閱讀 68,729評論 6 397
  • 文/花漫 我一把揭開白布屏积。 她就那樣靜靜地躺著,像睡著了一般磅甩。 火紅的嫁衣襯著肌膚如雪炊林。 梳的紋絲不亂的頭發(fā)上,一...
    開封第一講書人閱讀 52,337評論 1 310
  • 那天卷要,我揣著相機與錄音铛铁,去河邊找鬼。 笑死却妨,一個胖子當著我的面吹牛,可吹牛的內(nèi)容都是我干的括眠。 我是一名探鬼主播彪标,決...
    沈念sama閱讀 40,902評論 3 421
  • 文/蒼蘭香墨 我猛地睜開眼,長吁一口氣:“原來是場噩夢啊……” “哼掷豺!你這毒婦竟也來了捞烟?” 一聲冷哼從身側響起,我...
    開封第一講書人閱讀 39,807評論 0 276
  • 序言:老撾萬榮一對情侶失蹤当船,失蹤者是張志新(化名)和其女友劉穎题画,沒想到半個月后,有當?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體德频,經(jīng)...
    沈念sama閱讀 46,349評論 1 318
  • 正文 獨居荒郊野嶺守林人離奇死亡苍息,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 38,439評論 3 340
  • 正文 我和宋清朗相戀三年,在試婚紗的時候發(fā)現(xiàn)自己被綠了。 大學時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片竞思。...
    茶點故事閱讀 40,567評論 1 352
  • 序言:一個原本活蹦亂跳的男人離奇死亡表谊,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出盖喷,到底是詐尸還是另有隱情爆办,我是刑警寧澤,帶...
    沈念sama閱讀 36,242評論 5 350
  • 正文 年R本政府宣布课梳,位于F島的核電站距辆,受9級特大地震影響,放射性物質(zhì)發(fā)生泄漏暮刃。R本人自食惡果不足惜跨算,卻給世界環(huán)境...
    茶點故事閱讀 41,933評論 3 334
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望沾歪。 院中可真熱鬧漂彤,春花似錦、人聲如沸灾搏。這莊子的主人今日做“春日...
    開封第一講書人閱讀 32,420評論 0 24
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽狂窑。三九已至媳板,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間泉哈,已是汗流浹背蛉幸。 一陣腳步聲響...
    開封第一講書人閱讀 33,531評論 1 272
  • 我被黑心中介騙來泰國打工, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留丛晦,地道東北人奕纫。 一個月前我還...
    沈念sama閱讀 48,995評論 3 377
  • 正文 我出身青樓,卻偏偏與公主長得像烫沙,于是被迫代替她去往敵國和親匹层。 傳聞我的和親對象是個殘疾皇子,可洞房花燭夜當晚...
    茶點故事閱讀 45,585評論 2 359

推薦閱讀更多精彩內(nèi)容

  • Spring Cloud為開發(fā)人員提供了快速構建分布式系統(tǒng)中一些常見模式的工具(例如配置管理锌蓄,服務發(fā)現(xiàn)升筏,斷路器,智...
    卡卡羅2017閱讀 134,702評論 18 139
  • Requests 是用Python語言編寫瘸爽,基于 urllib您访,采用 Apache2 Licensed 開源協(xié)議的...
    朝畫夕拾閱讀 1,217評論 2 4
  • 方案一:class文件都是二進制的灵汪。首先用vi 打開然后輸入%!xxd顯示其16進制格式 方案二:javap -v...
    canezk閱讀 287評論 0 0
  • 錦瑟流年(目錄) 這么一大隊人馬檀训,在這場突而其來的變故中,不見一點慌張识虚,整然有序的停了下來肢扯。 為首的華服男子,靜靜...
    玉樓人醉閱讀 1,110評論 1 5
  • 從小生在農(nóng)村担锤,老老少少一口秦腔蔚晨,也覺得這說法就是哪里都這樣說,沒什么不妥肛循。直到從收音機里傳出另一種聲音铭腕,半懂不懂,...
    wjshw閱讀 372評論 2 2