Python爬蟲--urllib高級(jí)使用之opener

一蜓萄,用法

?opener:添加附加功能,我們把附加功能稱為----處理器對(duì)象(Handler對(duì)象)

二勺良、常用handler對(duì)象

  • HTTPHandler: 普通的HTPP處理器
  • ProxyHandler:代理IP處理器
  • HTTPCookieProcessor:cookie處理器

三、代碼演示

(1) HTTPHandler

# -*- coding:utf-8 -*-
from fake_useragent import UserAgent
from urllib.request import Request, urlopen, build_opener, HTTPHandler

def download(url):
    headers = {
        "User-Agent": UserAgent().random
    }
    req = Request(url, headers=headers)
    # 創(chuàng)建httpc處理器對(duì)象粱玲,debuglevel打開調(diào)試
    handler = HTTPHandler(debuglevel=2)
    opener = build_opener(handler)
    resp = opener.open(req)
    print(resp.read().decode())


if __name__ == '__main__':
    url = "http://httpbin.org/get"
    download(url)
HTTPHandler處理器

(2) ProxyHandler

# -*- coding:utf-8 -*-
from fake_useragent import UserAgent
from urllib.request import Request, build_opener, ProxyHandler

def proxy_handler(url):
    headers = {
        "User-Agent": UserAgent().random
    }
    req = Request(url, headers=headers)
    # ProxyHandler({"http": "ip:port"})
    handler = ProxyHandler({"http": "218.14.108.53:8060"})
    opener = build_opener(handler)
    resp = opener.open(req)
    print(resp.read().decode())


if __name__ == '__main__':
    url = "http://httpbin.org/get"
    # download(url)
    proxy_handler(url)

ProxyHandler處理器對(duì)象

(3)莽鸿、HTTPCookieProcessor
??1.以快代理登錄為例:https://www.kuaidaili.com/login/

HTTPCookieProcessor1.png
HTTPCookieProcessor2.png
HTTPCookieProcessor3.png
HTTPCookieProcessor4.png

HTTPCookieProcessor5.png
  • 代碼演示:
import json
from urllib.parse import urlencode
from fake_useragent import UserAgent
from urllib.request import Request,  build_opener, HTTPCookieProcessor


def cookie_handler(url):
    headers = {
        "User-Agent": UserAgent().random
    }
    with open("./009account.json", "r", encoding="utf-8") as fr:
        account_json = json.load(fr)
    args = {
        "login_type": 1,
        "username": "{}".format(account_json["username"]),
        "passwd": "{}".format(account_json["pwd"])
    }
    # print(args)
    # 請(qǐng)求登錄頁面
    req = Request(url, headers=headers, data=urlencode(args).encode())
    # 創(chuàng)建cookie控制器, 自動(dòng)保存cookie信息
    handler = HTTPCookieProcessor()
    opener = build_opener(handler)
    resp_login = opener.open(req)
    # 請(qǐng)求登錄后的url
    login_after = "https://www.kuaidaili.com/usercenter/overview"
    req_login_after = Request(login_after, headers=headers)
    resp_after = opener.open(req_login_after)
    print(resp_after.read().decode())


if __name__ == '__main__':
    url = "http://httpbin.org/get"

    login_url = "https://www.kuaidaili.com/login/"
    # download(url)
    # proxy_handler(url)
    cookie_handler(login_url)
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末昧旨,一起剝皮案震驚了整個(gè)濱河市,隨后出現(xiàn)的幾起案子祥得,更是在濱河造成了極大的恐慌兔沃,老刑警劉巖,帶你破解...
    沈念sama閱讀 219,539評(píng)論 6 508
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件级及,死亡現(xiàn)場(chǎng)離奇詭異乒疏,居然都是意外死亡,警方通過查閱死者的電腦和手機(jī)饮焦,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 93,594評(píng)論 3 396
  • 文/潘曉璐 我一進(jìn)店門怕吴,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人县踢,你說我怎么就攤上這事转绷。” “怎么了殿雪?”我有些...
    開封第一講書人閱讀 165,871評(píng)論 0 356
  • 文/不壞的土叔 我叫張陵暇咆,是天一觀的道長。 經(jīng)常有香客問我,道長爸业,這世上最難降的妖魔是什么其骄? 我笑而不...
    開封第一講書人閱讀 58,963評(píng)論 1 295
  • 正文 為了忘掉前任,我火速辦了婚禮扯旷,結(jié)果婚禮上拯爽,老公的妹妹穿的比我還像新娘。我一直安慰自己钧忽,他們只是感情好毯炮,可當(dāng)我...
    茶點(diǎn)故事閱讀 67,984評(píng)論 6 393
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著耸黑,像睡著了一般桃煎。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上大刊,一...
    開封第一講書人閱讀 51,763評(píng)論 1 307
  • 那天为迈,我揣著相機(jī)與錄音,去河邊找鬼缺菌。 笑死葫辐,一個(gè)胖子當(dāng)著我的面吹牛,可吹牛的內(nèi)容都是我干的伴郁。 我是一名探鬼主播耿战,決...
    沈念sama閱讀 40,468評(píng)論 3 420
  • 文/蒼蘭香墨 我猛地睜開眼,長吁一口氣:“原來是場(chǎng)噩夢(mèng)啊……” “哼焊傅!你這毒婦竟也來了剂陡?” 一聲冷哼從身側(cè)響起,我...
    開封第一講書人閱讀 39,357評(píng)論 0 276
  • 序言:老撾萬榮一對(duì)情侶失蹤租冠,失蹤者是張志新(化名)和其女友劉穎鹏倘,沒想到半個(gè)月后,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體顽爹,經(jīng)...
    沈念sama閱讀 45,850評(píng)論 1 317
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡纤泵,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 38,002評(píng)論 3 338
  • 正文 我和宋清朗相戀三年,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了镜粤。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片捏题。...
    茶點(diǎn)故事閱讀 40,144評(píng)論 1 351
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡,死狀恐怖肉渴,靈堂內(nèi)的尸體忽然破棺而出公荧,到底是詐尸還是另有隱情,我是刑警寧澤同规,帶...
    沈念sama閱讀 35,823評(píng)論 5 346
  • 正文 年R本政府宣布循狰,位于F島的核電站窟社,受9級(jí)特大地震影響,放射性物質(zhì)發(fā)生泄漏绪钥。R本人自食惡果不足惜灿里,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 41,483評(píng)論 3 331
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望程腹。 院中可真熱鬧匣吊,春花似錦、人聲如沸寸潦。這莊子的主人今日做“春日...
    開封第一講書人閱讀 32,026評(píng)論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽见转。三九已至命雀,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間池户,已是汗流浹背咏雌。 一陣腳步聲響...
    開封第一講書人閱讀 33,150評(píng)論 1 272
  • 我被黑心中介騙來泰國打工, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留校焦,地道東北人。 一個(gè)月前我還...
    沈念sama閱讀 48,415評(píng)論 3 373
  • 正文 我出身青樓统倒,卻偏偏與公主長得像寨典,于是被迫代替她去往敵國和親。 傳聞我的和親對(duì)象是個(gè)殘疾皇子房匆,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 45,092評(píng)論 2 355

推薦閱讀更多精彩內(nèi)容