Python requests模塊初體驗

:python做爬蟲具有非常大的優(yōu)勢盆色,原生的urllib庫提供了大量的API已方便爬蟲開發(fā),但是由于代碼效率還有其他的第三方庫,所以這里用的是 requests模塊,這次咱們初探一下机久。

1.requests初體驗

首先安裝,由于python已經安裝了pip赔嚎,可以方便下載第三方模塊膘盖,所以直接執(zhí)行命令即可,如果沒有安裝參考這篇文章尤误,執(zhí)行命令

  sudo pip install requests

2. 簡單訪問網頁

1.這里咱們需要使用requests庫進行訪問網頁了侠畔,首先要引入

  import requests
  1. 建立請求
    requests中的訪問API很全面,我們可以以下面的方式建立請求
  r = requests.get("http://www.baidu.com")
  r = requests.put("http://ww.baidu.org/put")
  r = requests.delete("http://ww.baidu.org/delete")
  r = requests.head("http://ww.baidu.org/get")
  r = requests.options("http://ww.baidu.org/get")
  r = requests.post('https"http://ww.baidu.com')
// python會返回一個對象损晤,并且賦值給r
  1. 查看是否請求成功
    由于我們需要知道是否請求網頁成功软棺,所以需要查看對方服務器返回的code字段,所以我們可以查看一下
  r.status_code 
  //  200

此時如果r.status_code 為200則代表請求成功尤勋。

  1. 查看返回的文本信息
  r.text

r.text就是網頁的內容了喘落,當然咱們可以打印一下。

  1. 將網頁內容轉碼最冰,指定為咱們需要的編碼
  r.encoding = 'utf-8'

這時候改變了編碼瘦棋,每當你訪問 r.text ,Request 都將會使用 r.encoding 的新值暖哨。你可能希望在使用特殊邏輯計算出文本的編碼的情況下來修改編碼赌朋。比如 HTTP 和 XML 自身可以指定編碼。這樣的話,你應該使用 r.content 來找到編碼沛慢,然后設置 r.encoding 為相應的編碼服球。這樣就能使用正確的編碼解析 r.text 了。

  1. 打印一下
r.text

這時候打印出來的就是utf-8編碼的網頁了颠焦,咱們就拿到這些網頁進行抓取內容吧斩熊!


敬請期待第二篇

?著作權歸作者所有,轉載或內容合作請聯系作者
  • 序言:七十年代末,一起剝皮案震驚了整個濱河市伐庭,隨后出現的幾起案子粉渠,更是在濱河造成了極大的恐慌,老刑警劉巖圾另,帶你破解...
    沈念sama閱讀 218,546評論 6 507
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件霸株,死亡現場離奇詭異,居然都是意外死亡集乔,警方通過查閱死者的電腦和手機去件,發(fā)現死者居然都...
    沈念sama閱讀 93,224評論 3 395
  • 文/潘曉璐 我一進店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來扰路,“玉大人尤溜,你說我怎么就攤上這事『钩” “怎么了宫莱?”我有些...
    開封第一講書人閱讀 164,911評論 0 354
  • 文/不壞的土叔 我叫張陵,是天一觀的道長哩罪。 經常有香客問我授霸,道長,這世上最難降的妖魔是什么际插? 我笑而不...
    開封第一講書人閱讀 58,737評論 1 294
  • 正文 為了忘掉前任碘耳,我火速辦了婚禮,結果婚禮上框弛,老公的妹妹穿的比我還像新娘辛辨。我一直安慰自己,他們只是感情好功咒,可當我...
    茶點故事閱讀 67,753評論 6 392
  • 文/花漫 我一把揭開白布愉阎。 她就那樣靜靜地躺著绞蹦,像睡著了一般力奋。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上幽七,一...
    開封第一講書人閱讀 51,598評論 1 305
  • 那天景殷,我揣著相機與錄音,去河邊找鬼。 笑死猿挚,一個胖子當著我的面吹牛咐旧,可吹牛的內容都是我干的。 我是一名探鬼主播绩蜻,決...
    沈念sama閱讀 40,338評論 3 418
  • 文/蒼蘭香墨 我猛地睜開眼铣墨,長吁一口氣:“原來是場噩夢啊……” “哼!你這毒婦竟也來了办绝?” 一聲冷哼從身側響起伊约,我...
    開封第一講書人閱讀 39,249評論 0 276
  • 序言:老撾萬榮一對情侶失蹤,失蹤者是張志新(化名)和其女友劉穎孕蝉,沒想到半個月后屡律,有當地人在樹林里發(fā)現了一具尸體,經...
    沈念sama閱讀 45,696評論 1 314
  • 正文 獨居荒郊野嶺守林人離奇死亡降淮,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內容為張勛視角 年9月15日...
    茶點故事閱讀 37,888評論 3 336
  • 正文 我和宋清朗相戀三年超埋,在試婚紗的時候發(fā)現自己被綠了。 大學時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片佳鳖。...
    茶點故事閱讀 40,013評論 1 348
  • 序言:一個原本活蹦亂跳的男人離奇死亡霍殴,死狀恐怖,靈堂內的尸體忽然破棺而出系吩,到底是詐尸還是另有隱情繁成,我是刑警寧澤,帶...
    沈念sama閱讀 35,731評論 5 346
  • 正文 年R本政府宣布淑玫,位于F島的核電站巾腕,受9級特大地震影響,放射性物質發(fā)生泄漏絮蒿。R本人自食惡果不足惜尊搬,卻給世界環(huán)境...
    茶點故事閱讀 41,348評論 3 330
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望土涝。 院中可真熱鬧佛寿,春花似錦、人聲如沸但壮。這莊子的主人今日做“春日...
    開封第一講書人閱讀 31,929評論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽蜡饵。三九已至弹渔,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間溯祸,已是汗流浹背肢专。 一陣腳步聲響...
    開封第一講書人閱讀 33,048評論 1 270
  • 我被黑心中介騙來泰國打工舞肆, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留,地道東北人博杖。 一個月前我還...
    沈念sama閱讀 48,203評論 3 370
  • 正文 我出身青樓椿胯,卻偏偏與公主長得像,于是被迫代替她去往敵國和親剃根。 傳聞我的和親對象是個殘疾皇子哩盲,可洞房花燭夜當晚...
    茶點故事閱讀 44,960評論 2 355

推薦閱讀更多精彩內容

  • Spring Cloud為開發(fā)人員提供了快速構建分布式系統中一些常見模式的工具(例如配置管理,服務發(fā)現狈醉,斷路器种冬,智...
    卡卡羅2017閱讀 134,657評論 18 139
  • Android 自定義View的各種姿勢1 Activity的顯示之ViewRootImpl詳解 Activity...
    passiontim閱讀 172,152評論 25 707
  • 1.app跳轉到評分界面 7.0之后調用 "http://itunes.apple.com/WebObjects/...
    不諳世事_閱讀 601評論 0 1
  • 在公交車停靠的時候舔糖,無意間看到一個十一二歲的男孩跳上了公交車娱两,投幣后沒有著急往后走,而是回頭看著車門外金吗,那兒有個中...
    薄稚閱讀 542評論 0 3
  • 真的想走出來 1, 你...
    聞強閱讀 195評論 0 0